A Red Hat OpenShift nagyvállalati Kubernetes konténerplatformjára épülő, nyílt és hibrid mesterséges intelligencia (AI) és gépi tanulás (ML) platformján megjelenő, legújabb fejlesztések a hardvertől kezdve a szolgáltatásokig és olyan eszközökig ívelnek, mint az alkalmazások készítéséhez használt Jupyter és PyTorch. Az új képességek a szállító szerint tovább növelik a prediktív és generatív modelleket felhős és helyi, klasszikus környezetekben egyaránt támogató, nyílt forráskódú OpenShift AI platform rugalmasságát és skálázhatóságát, így segítségével a vállalatok az üzlet működésének még több rétegébe építhetik be a mesterséges intelligenciát, gyorsabban újíthatnak és termelékenyebben dolgozhatnak.
- Ma már nem az a kérdés, hogy a vállalatoknak szükségük lesz-e a mesterséges intelligenciára, hanem az, hogy mikor vezessék be - mondta Ashesh Badani, a Red Hat alelnöke és termékigazgatója a cég éves konferenciájának nyitó előadásban. - Olyan megbízható, következetes és rugalmas AI platformot kell találniuk ehhez, amellyel kitűnhetnek a piaci versenyben, termelékenységüket és bevételeiket is növelhetik. OpenShift AI platformunkkal a vállalati IT vezetők az intelligens alkalmazásokat a hibrid felhőkben mindenütt bevezethetik és skálázhatják, a működést és a modelleket az alkalmazások és a szolgáltatások igényei szerint fejleszthetik és finomhangolhatják.
Egy AI platform minden környezethez
A hardverköltségek növekedésétől kezdve az adatbiztonsággal és a SaaS-alapú modellek megbízhatóságával kapcsolatos aggályokig a vállalatok számos kihívással szembesülnek, amikor a kísérletezés szakaszából továbblépve AI modelljeiket éles környezetbe viszik, mutatott rá a Red Hat. Miközben a generatív mesterséges intelligencia rohamos gyorsasággal fejlődik és változik, sok szervezet küzd egy megbízható AI alapplatform létrehozásával, amely a helyi környezetben és a felhőben egyaránt fut.
Elemzésében (The Future of Digital Infrastructure, 2024: AI-Ready Platforms, Operating Models, and Governance) az IDC is kifejti, hogy az AI-ban rejlő lehetőségek sikeres kiaknázásához a vállalatoknak korszerűsíteniük kell meglévő alkalmazásaikat és adatkörnyezetüket. A rendszerek és tárolási platformok közötti korlátokat lebontva, az infrastruktúra fenntarthatóságát javítva gondosan meg kell választaniuk azt is, hogy a különböző munkaterheléseket a felhőben, az adatközpontban vagy a peremhálózaton telepítsék. Mindez mutatja, hogy a vállalatoknak olyan AI platformot érdemes választaniuk, amely minden szakaszban rugalmasan támogatja a mesterséges intelligencia bevezetését, mivel a folyamat előrehaladásával az erőforrásoknak alkalmazkodniuk kell az igények változásához.
A Red Hat AI stratégiájával ezt a rugalmasságot biztosítja a hibrid felhőben, mivel lehetővé teszi, hogy a vállalatok saját adataikon finomhangolják az előtanított vagy gondosan összeválogatott alapmodelleket, és ehhez szabadon válasszanak hardveres és szoftveres gyorsítókat. A Red Hat OpenShift AI platform most bejelentett, 2.9-es verziója mindehhez számos új és továbbfejlesztett képességet vonultat fel.
A peremhálózati modell-szolgáltatással a szervezetek például az OpenShift klaszter egynode-os, szabványos konfigurációjában is telepíthetik AI modelljeiket távoli helyszíneken, így az inferencia-képességeket korlátozott erőforrásokkal, időszakos hálózati eléréssel rendelkező vagy légmentesen elzárt környezetekbe is elvihetik. A jelenleg technológiai előzetesként elérhető funkció az adatközponttól kezdve a felhőn át a peremhálózatig következetesen egységes üzemeltetést biztosít a megfigyelhetőség (observability) használatra kész, dobozból kivehető képességével.
Prediktív és generatív AI modelljeiket a vállalatok ugyanazon a platformon futtathatják különféle felhasználási esetekhez a továbbfejlesztett modell-szolgáltatással, amely az üzemeltetés egyszerűsítése mellett a költségek csökkentését is segíti.
Red Hat Summit 2024: Matt Hicks, elnök-vezérigazgató...
Az OpenShift AI az elosztott AI munkaterhelések gyorsításához és menedzseléséhez a Kubernetes platformon a Ray keretrendszerrel teremt felhasználóbarát környezetet a feladatok összehangolásához és monitorozásához. Új projektmunkaterek támogatják a modellek fejlesztésén dolgozó adatkutatókat, akik még rugalmasabban választhatnak az integrált fejlesztőkörnyezetek és eszközkészletek - például a VS Code és a technológiai előzetesként elérhető RStudio, valamint a tökéletesített CUDA - közül.
Megfigyelhetőséget javító vizualizációk segítik az AI modellek teljesítménymonitorozását, az új gyorsítóprofilok pedig a különféle típusú hardvergyorsítók konfigurálását teszik könnyebbé a modellek fejlesztéséhez és szolgáltatásához. Utóbbi funkció egyszerű, önkiszolgáló hozzáférést ad a konkrét munkaterheléshez megfelelő gyorsítótípushoz.
Vállalati Linux mesterséges intelligenciához
Májusban megtartott Summit 2024 konferenciáján jelentette be a Red Hat Enterprise Linux AI (RHEL AI) alapmodell-platformját is, amelyen a vállalatok zökkenőmentesen fejleszthetnek, tesztelhetnek és telepíthetnek generatív mesterséges intelligencia modelleket. A RHEL AI az IBM Research nyílt forráskódú Granite nagy nyelvi modelljeit (LLM) az InstructLab eszközeivel egyesíti, amelyekkel a szervezetek a LAB (Large-scale Alignment for chatBots) módszertan szerint üzleti szabályaikhoz igazíthatják, azokkal összehangolhatják - és ezáltal a lehető leghasznosabbá, megbízhatóbbá és biztonságosabbá tehetik - a modellek működését. A teljes megoldás a RHEL szoftverképeként, valamint az OpenShift AI részeként érhető el, amelyet a vállalatok a hibrid felhőben működő egyedi szervereken tölthetnek be.
- A RHEL AI az InstructLab eszközeivel és az OpenShift AI platformmal együtt nagyban megkönnyíti a generatív mesterséges intelligencia hibrid felhős bevezetését és skálázását - mondta Ashesh Badani. - Az adatkutatói képességek korlátozott elérhetőségétől kezdve a puszta erőforrásigényig számos akadályt elhárít a vállalatok útjából, ezáltal felgyorsítja az innovációt.
...és Ashesh Badani, termékigazgató előadása
A szoftverkép (image) alapú telepítési móddal a Red Hat a mesterséges intelligencia által meghatározott jövőre készítette fel Enterprise Linux operációs rendszerét. Minthogy a telepítési mód konténerképként teszi elérhetővé a platformot, a vállalatok az alkalmazásokat és az operációs rendszert is ugyanazokkal az eszközökkel menedzselhetik, a teljes informatikai környezet felügyelete egyszerűbbé válik számukra.
Persze a Linux már eddig is a konténerek alapját képezte, az új telepítési móddal azonban nagyobb szerephez jut. A szervezetek olyan konténeralapú eszközökkel és koncepciók mentén menedzselhetik a teljes operációs rendszert, mint például a GitOps és a CI/CD, a folyamatos integráció és folyamatos szállítás. A javítások széttagolt helyszínekre történő kitolásától kezdve az üzemeltető csapatok közötti kapcsolat hiányán át az alkalmazásfejlesztési ciklusok kezeléséig a vállalatok ezzel az áramvonalas megközelítéssel könnyebben menedzselhetik a Linuxot a skálázott környezetekben.
- A világ vezető vállalati Linux platformját konténer formátumban kínáljuk, olyan operációs rendszert biztosítunk ezáltal, amely sebesség, hatékonyság és innováció vonatkozásában egyaránt megfelel az AI-korszak követelményeinek - mondta Gunnar Hellekson, a Red Hat alelnöke és igazgatója -, azzal a következetességgel és megbízhatósággal, amelyet az informatikai vezetők megszoktak és elvárnak a Red Hat Enterprise Linuxtól.
Summit 2024 konferenciáján a Red Hat Enterprise Linux AI platformja mellett egy sor vállalati bevezetésre kész futtatókörnyezetet is bejelentett, amelyeket az AMD, az Intel és az NVIDIA platformjain, technológiai partnereivel együtt alakított ki és támogat a nyílt forráskódra épülő AI innováció felgyorsításához.
Cikkünk a ComputerTrends magazin 2024. június 6-ai nyomtatott lapszámában jelent meg.
