A generatív mesterséges intelligencia skálázására kész vállalatok a próbaprojektek szakaszából szeretnének minél előbb eljutni az éles alkalmazásig. Nehezen találnak azonban olyan, használatra kész megoldásokat, amelyek nagy teljesítményű, ugyanakkor költség- és energiahatékonyságot biztosító processzorokra épülnek, továbbá a folyamat összetettségének és töredezettségének kezelésében, az adatbiztonság és a törvényi megfelelés követelményeinek teljesítésében is segítik őket. Erre utal legalábbis az Intel által hivatkozott adat, amely szerint tavaly a vállalatok mindössze 10 százaléka tudta sikerrel élesíteni generatív AI projektjeit.
Áprilisban megtartott Vision 2024 konferenciáján bemutatott, újgenerációs termékeivel és stratégiai partnereivel bejelentett együttműködésével a gyártó ezen az arányon javítana.
- Hihetetlen mértékben felgyorsult az innováció a szilíciumtechnológia fejlődésének köszönhetően, így hamarosan minden szervezet AI-vállalattá fog válni - mondta Pat Gelsinger, az Intel vezérigazgatója. - Az Intel a szervezetek minden szegeltébe elviszi a mesterséges intelligenciát, a PC-től kezdve az adatközponton át a peremhálózatig. Legújabb Gaudi, Xeon és Core Ultra platformjaink a rugalmas megoldások átfogó, egységes készletét kínálják ügyfeleinknek és partnereinknek a változó igények kiszolgálásához és az előttünk álló, hatalmas lehetőségek kiaknázásához.
Tanulást és következtetést gyorsító Gaudi 3
Az Intel Gaudi 3 AI-gyorsító processzor - amelyről a gyártó egy tavaly decemberi rendezvényén előzetesen már részleteket osztott meg - a mesterséges intelligenciát működtető rendszerek felméretezését akár több tízezer, egymással szabványos Ethernet kapcsolaton kommunikáló lapka összekapcsolásával teszi könnyebbé. Előző nemzedékéhez képest a Gaudi 3 - a gépi tanulás 16 bites lebegőpontos formátumában, a BF16-ban kifejezve - négyszeresére növelheti a számítási teljesítményt, és a memória sávszélességének másfélszeres növekedését ígéri. A gyorsítóval így a legnagyobb szervezetek is nagyot léphetnek előre az AI tanításában és új adatokból levont következtetéseinek számításában (inferencia), a generatív mesterséges intelligencia éles alkalmazásainak skálázásában.
Intel Vision 2024: Pat Gelsinger vezérigazgató nyitó előadása
Összevetve az Nvidia H100 processzorral, a Gaudi 3 várhatóan a tanítás és az inferencia terén is átlagosan 50 százalékkal nagyobb teljesítményt fog adni a vállalatoknak, míg utóbbi energiahatékonyságát is 40 százalékkal növelheti, mondta az Intel többféle nagy nyelvi modellen (LLM) végzett teljesítménytesztek eredményére hivatkozva. Az Nvidia viszont márciusban - mint arról mi is beszámoltunk -, már bejelentette szuperprocesszorát, amely a H100-hoz képest többszörös teljesítménynövekedést és nagyságrenddel nagyobb energiahatékonyságot ígér.
Az iparági szabványokra épülő Ethernet hálózati technológia mellett a Gaudi 3 a nyílt, közösségi alapú szoftverfejlesztés támogatásával is segíti a szervezeteket a mesterséges intelligencia skálázásában, a tanítás és az inferencia finomhangolásában, egyetlen node-tól kezdve akár több ezer node-ot tartalmazó szuper- és megaklaszterekig. Az Intel eredeti eszközgyártó partnerei - közöttük a Dell Technologies, a Hewlett Packard Enterprise, a Lenovo és a Supermicro - az idei év második negyedétől hozzáférnek az AI gyorsítóhoz. A Vision 2024 konferencián a processzorgyártó több partnere és ügyfele is a generatív AI innovatív alkalmazásairól számolt be, amelyeket a processzorok legújabb nemzedékével támogat.
Közöttük a Bosch a gyártási folyamatokban bekövetkező anomáliák modellezéséhez generál szintetikus adatkészleteket az alapmodellek tanításához, hogy az okosgyárakban robusztus megoldások bevezetését tegye lehetővé például az optikai ellenőrzés automatizálásához. Az IBM az ötödik generációs Intel Xeon processzorokat használja watsonx.data adattárához, és a processzorgyártóval közösen jelenleg hitelesíti watsonx platformját a Gaudi gyorsítókon. Az Infosys pedig a generatív mesterséges intelligenciát gyorsító Topaz szolgáltatásaiban, megoldásaiban és platformjain teszi elérhetővé az Intel technológiáit, a negyedik és ötödik generációs Xeon, a Gaudi 2, valamint a Core Ultra processzorokat.
Intellel közös együttműködést jelentett be a konferencián a Google Cloud, a Thales és a Cohesity is, hogy a processzorgyártó bizalmas adatfeldolgozást támogató megoldásait - közöttük a Trust Domain Extensions (TDX) és a Software Guard Extensions (SGX) képességeit - elérhetővé tegyék szoftvereik felhőben futó példányaihoz. Ügyfeleik így megbízható végrehajtási környezetben (TEE) futtathatják AI modelljeiket és algoritmusaikat, és ezeket a környezeteket az Intel tanúsítási szolgáltatásával ellenőrizhetik.
Partnereinek egy másik csoportjával - amelyhez az Anyscale, a Domino, a Hugging Face, a Red Hat, az SAP és a VMware mellett már több, elsősorban adattechnológiai cég csatlakozott - az Intel a mesterséges intelligencia vállalati alkalmazását segítő, nyílt platform létrehozásáról is szándéknyilatkozatot tett. Az iparági összefogás nyílt, sok szállító termékeiből felépülő generatív AI rendszerek építését célozza, amelyek RAG (retrieval-augmented generation) optimalizálással kategóriájukban a legnagyobb teljesítményt és értéket, a legjobb fejlesztői élményt adják a szervezeteknek. A RAG módszerének köszönhetően a vállalatok meglévő, nagy adatforrásaikat szabványos felhőinfrastruktúrán futtathatják, amelyet a szállítók nyílt LLM-képességekkel egészítenek ki.
A kezdeményezés első lépéseként az Intel biztonságos, Xeon- és Gaudi-alapú referenciaarchitektúrákat készít, közreadja a technikai koncepció keretrendszerét, és Tiber Developer Cloud felhőjét további infrastruktúra-kapacitással bővíti a fejlesztések, valamint a hitelesítéshez szükséges tesztek támogatásához.
Friss processzorok minden AI-szegmensben
Gaudi 3 gyorsítója mellett az Intel minden termékcsaládjában a processzorok új nemzedékét jelentette be a konferencián. Az Intel Xeon 6 processzorok a generatív mesterséges intelligencia területén meglévő megoldások, közöttük a RAG teljesítményhatékony futtatásával saját adataik felhasználásában és üzletspecifikus eredmények elérésben segítik a vállalatokat, mondta a szállító. Az adatközponti, felhős és peremhálózati környezetekbe szánt Xeon 6 processzorok Sierra Forest kódnéven fejlesztett modelljei E-core magjaikkal közel 3:1 arányban növelik a hatékonyságot, és még ebben a negyedévben piacra kerülnek. A Granite Rapids kódnéven fejlesztett Xeon 6 processzorok P-core magjaikkal pedig az AI teljesítményét növelik - a késleltetés akár 6,5-szörös csökkentésével -, és nem sokkal később szintén elérhetővé válnak.
Kliens oldalon az Intel Core Ultra processzorok új, Lunar Lake kódnéven fejlesztett nemzedéke ugyancsak 2024-ben kerül forgalomba, és 100 TOPS (tera operations per second) platformteljesítményt, neurális feldolgozó egységével pedig 45 TOPS teljesítményt fog biztosítani az AI PC-k új modelljeiben. A TOPS egyszerűsített mérőszámként mutatja, hogy a processzor hány számítási alapműveletet végez másodpercenként. Az Intel egyébként arra számít, hogy az eszközgyártók idén 40 millió AI PC-t fognak szállítani, az ultravékony laptopoktól kezdve a játékkonzolokig több mint 230 különféle modellben.
Gaudi 3: az Intel AI-gyorsítója
Peremhálózati AI portfólióját is új processzorokkal bővíti az Intel Core Ultra, Core és Atom termékcsaládjában, valamint Intel Arc GPU-családjában. A Tiber Edge Platformmal támogatott, friss feldolgozó egységeivel, amelyek még ebben a negyedévben forgalomba kerülnek, a gyártó elsősorban olyan piacokat céloz meg, mint a kereskedelem, a gyártóipar és az egészségügy.
Nem utolsósorban az Ultra Ethernet Consortium (UEC) keretein belül az Intel egy nyílt hálózati szövet, mesterséges intelligenciára optimalizált Ethernet megoldások létrehozásán is dolgozik. A vertikálisan és horizontálisan bővíthető AI szövetet átalakító, innovatív megoldások a nemzedékről nemzedékre nagyságrenddel nagyobb méretűvé váló, hatalmas AI modellek futtatását teszik lehetővé. Közéjük tartoznak az Intel AI NIC hálózati kártyái, amelyek az XPU-k integrálására szolgálnak, a Gaudi-alapú rendszerek, valamint más hardveres és szoftveres AI interconnect referenciatervek, amelyek az Intel Foundry programhoz készültek.
A mesterséges intelligencia bevezetését felgyorsító üzleti megoldások és szolgáltatások említett, Intel Tiber portfólióját a vállalatok már jelenleg is tanulmányozhatják, teljes elérhetőségük 2024 harmadik negyedévében várható.
Cikkünk a ComputerTrends 2024. május 8-ai lapszámában jelent meg.
