A generatív mesterséges intelligenciát (AI-t) a vállalatok 53 százaléka már használja, további 36 százalékuk pedig a technológia idei bevezetésének korai szakaszában jár - állapította meg a Cloudera felmérésében (2023 Evolving Trends: Data, Analytics & AI), amelyben félezer IT döntéshozó és adattudós vett részt az Egyesült Államokban. Magyarországon, mint arról a PwC hazai vezérigazgatói felmérése alapján előző lapszámunkban írtunk (lásd Az üzleti transzformáció éve, ComputerTrends 2024/03), ezek az arányok lényegesen alacsonyabbak, 18 és 27 százalékon állnak.
Bár a technológia Amerikában szélesebb körben elterjedt, a Cloudera felméréséből kiderült az is, hogy sok vállalat küzd az elosztott adatstruktúrákból eredő kihívásokkal, az adatirányítás kockázataival vagy az adatbiztonságot érintő aggályokkal.
Tíz válaszadó közül nyolc (84 százalék) mondta például, hogy a generatív AI modellek tanításához vagy finomhangolásához nem szívesen osztaná meg adatait harmadik féllel a jelenlegi, kevéssé kiforrott adatvédelmi, -biztonsági és -megfelelési környezetben. Emellett a megkérdezettek szinte mindegyike (95 százalék) egyetértett abban, hogy a mesterséges intelligenciától kapott eredményekben csak akkor bízna meg teljesen, ha az AI modell tanításához használt adatok felett teljes irányítást gyakorolhat. Mindez érthető módon a technológia iránt egyébként élénken érdeklődő vállalatok körében is hátráltatja a generatív mesterséges intelligencia további bevezetését.
Csúcs a jéghegy
Márciusban ezért a Cloudera bejelentette Open Data Lakehouse nyílt adattóház megoldásának új hullámát, amely a nyilvános felhőhöz hasonlóan immár helyben, magánfelhős környezetben is az Apache Icebreg segítségével forradalmasítja a megbízható analitikai és AI alkalmazásokhoz szükséges nagy és változatos adattömegek menedzselését.
Nyílt adattóházra támaszkodva a szervezetek hatalmas méretekben is gyorsan elemezhetik minden strukturált és nem strukturált adatukat. Az adattárházak és az adattavak előnyeit ötvöző megoldás segít az adatsilók felszámolásában, az adatszakemberek csapatai így az általuk választott eszközökkel ugyanazokon az adatokon dolgozhatnak együtt bármely nyilvános és magánfelhőben. Az Apache Iceberg magánfelhős támogatásával a szervezetek mostantól gyorsabban skálázhatják vállalati AI alkalmazásaikat, és nagyobb üzleti értéket teremthetnek velük, mondta a Cloudera.
Az Apache Iceberg szintén nyílt forráskódú, nagy teljesítményű táblaformátum hatalmas analitikai adatkészletek kezeléséhez. SQL táblák, valamint népszerű analitikai keretrendszerek, motorok és platformok - közöttük a Spark, Flink, Hive, Presto, Impala, Trino, StarRocks, Doris és Pig - használatát teszi lehetővé, miközben az adatkészletek időbeni változását is nyilvántartja, a vállalatokat így a lekérdezések újraírásától és az adatstruktúrák újraépítésétől is megkíméli.
Magánfelhőkben a szervezetek az Apache Iceberg segítségével az üzletkritikus adatok hatalmas mennyiségét használhatják AI alkalmazásaikhoz, függetlenül attól, hogy adataik a felhőben vagy a helyi rendszerekben érhetők el, így az eddiginél több felhasználási esetet támogathatnak velük. Nyílt adattóház megoldásával a Cloudera immár a nagy nyelvi modellek (LLM-ek) légmentesen elzárt - külső hálózati interfész nélküli - bevezetését és nagy teljesítményű, költséghatékony futtatását is lehetővé teszi olyan szervezetek számára, amelyek különösen szigorú követelményeket támasztanak az adatbiztonság és -védelem terén.
- Ügyfeleinket hozzásegítjük, hogy a mesterséges intelligenciával a gyakorlatban hasznosítható felismerésekre jussanak adataikból, keletkezzenek azok bárhol - mondta Dipto Chakravarty, a Cloudera termékigazgatója. - A felhő-natív megoldások következő hullámával megbízható adatalapot biztosítunk számukra az analitikához, így kimeríthetetlen lehetőségekhez jutnak az innovatív AI alkalmazások építésében.
NIM mikroszolgáltatások a CDP-n
Kibővíti Nvidiával meglévő együttműködését, és a gyártó AI Enterprise platformján elérhető NIM mikroszolgáltatásokat saját adatplatformjával - a Cloudera Data Platform (CDP) AI és ML munkafolyamatokat támogató Cloudera Machine Learning szolgáltatással - integrálja, hogy éles környezetben is végponttól végpontig gyorsabbá, egyszerűbbé és biztonságosabbá tegye a generatív mesterséges intelligencia munkafolyamatait, jelentette be a Cloudera az Nvidia márciusban megtartott GTC fejlesztői konferenciáján.
A vállalati adatok a nagy nyelvi modellekre optimalizált, átfogó technológiai képességeket felvonultató platformmal együtt kulcsfontosságú szerepet kapnak a generatív AI alkalmazások életciklusán át, a próbaprojektektől kezdve a fejlesztés teljes folyamatán keresztül a kész alkalmazások élesítéséig, és azon túl. Az Nvidia NIM és NeMo Retriever mikroszolgáltatásaival a fejlesztők az AI modelleket összekapcsolhatják az üzleti adatokkal - a szöveges és képi adatokkal, valamint olyan vizualizációkkal, mint a kör-, oszlop- és vonaldiagramok -, hogy az alkalmazások rendkívül pontos és releváns, összefüggésbe helyezett válaszokat adjanak.
A mikroszolgáltatásokat használó fejlesztők alkalmazásaikat az Nvidia AI Enterprise platformján keresztül telepíthetik, amely optimalizált futtatókörnyezeteket biztosít a vállalati osztályú LLM-ek építéséhez, testre szabásához és bevezetéséhez. Az Nvidia mikroszolgáltatásaival integrált Cloudera Machine Learning szolgáltatással a vállalatok a CDP felügyelete alatt a nagy teljesítményű AI munkafolyamatokat, platformszolgáltatásokat és feldolgozást adataikhoz vihetik, azok keletkezési és tárolási helyétől függetlenül.
Többféle integrációt is kialakít a Cloudera az Nvidia mikroszolgáltatásaival. Machine Learning szolgáltatása például olyan modell- és alkalmazás-kiszolgáló képességet kap, amely a modellek inferencia-teljesítményét növeli minden munkaterhelésben. Az új AI modell-kiszolgáló funkcionalitással a szervezetek hibatűrő, alacsony késleltetésű és automatikusan skálázódó, önméretező modelleket vezethetnek be nyilvános és magánfelhőkben egyaránt. A Cloudera Machine Learning emellett az integrált Nvidia NeMo Retriever mikroszolgáltatással egyszerűbbé teszi az egyedi LLM-ek és a vállalati adatok összekapcsolását. A fejlesztők ezzel a képességgel retrieval-augmented generation (RAG) alapú - pontosságukat javító - alkalmazásokat készíthetnek és vezethetnek be éles környezetben.
A Cloudera korábban már integrálta az NVIDIA RAPIDS Accelerator for Apache Spark könyvtárát is saját adatplatformjába, hogy kiaknázza a grafikus processzorokra (GPU-kra) optimalizált adatfeldolgozás teljesítményét. Az Nvidia AI Enterprise platformjával történő integrációval és a mikroszolgáltatások tervezett hozzáadásával a Cloudera Data Platform egyedülálló módon végponttól végpontig fel fogja gyorsítani az AI alkalmazások készítését hibrid felhős környezetekben, mondta a szállító.
Hamarosan a szervezetek minden iparágban egyszerűbben és gyorsabban építhetnek, szabhatnak testre és telepíthetnek majd nagy nyelvi modelleket a generatív AI alkalmazásokhoz, amelyek átformáló erejű hatással lesznek az üzletre. Beleértve az olyan alkalmazásokat, mint például a fejlesztés folyamatát szoftverkód előállításával felpörgető programozó copilotok, az ügyfélszolgálatokat automatizáló chatbotok, vagy például a dokumentumok feldolgozását gyorsító szövegkivonatoló és -összegző alkalmazások. A fejlett adat- és AI-folyamatokat áramvonalasító újításokkal a vállalatok az eddiginél rövidebb átfutással érhetnek el eredményeket, és növelhetik bevételeiket, miközben költségeiket optimalizálhatják.
- Az Nvidia mikroszolgáltatásait Cloudera Machine Learning szolgáltatásunkkal összekapcsolva ügyfeleinket hozzásegítjük, hogy a generatív mesterséges intelligenciát övező, felfokozott várakozásokat üzleti realitássá konvertálják - mondta a bejelentés kapcsán Priyank Patel, a Clouder AI/ML termékekért felelős alelnöke. - A fejlett generatív AI képességeket és nagy teljesítményt biztosító integrációnak köszönhetően a vállalatok pontosabb és időszerűbb döntéseket hozhatnak, miközben csökkenthetik az előrejelzések hibáit, és kiszűrhetik a mesterséges intelligencia hallucinációit. Mindez kritikus fontosságú ahhoz, hogy a mai adattérben sikeresen navigálhassanak.
