A Microsoft sokat fektet a gépi tanulásba, és a félvezetőgyártókkal együttműködve támogatja az AI-modellek minél gyorsabb futtatását a PC-n. Ehhez egy teljesen új generációs szilícium-technológia kifejlesztésére volt szükség az Intel, az AMD és az ARM részéről - írja ismertetésében a TechRepublic.
A gyakran "AI-gyorsítóknak" nevezett neurális feldolgozóegységek olyan dedikált hardverek, amelyek speciális gépi tanulási feladatokat, például számítógépes látási algoritmusokat kezelnek. Olyanok, mint a GPU-k, csak nem grafikus, hanem mesterséges intelligenciához valók. Gyakran sok közös jellemzőjük van a GPU-kkal, sok viszonylag alacsony pontosságú processzormaggal működnek, amelyek a gyakori gépi tanulási algoritmusokat hajtják végre. Nem is kell őket előre legyártani, mivel a logikai chipek (FPGA) programozható eszközöket kínálnak, amelyek felhasználhatók a gyorsítók építéséhez és teszteléséhez.
A Surface már szállít hardvereket NPU-val. A Microsoft közösen fejlesztett SQ1 és SQ2 processzorai az ARM-alapú Surface Pro X hardverhez beépített NPU-t használnak, hogy szemkövető funkciókat adjanak a kamerához. A Surface Pro X-en a Microsoft Teams vagy hasonló szolgáltatást használata közben a rendszer korrigálja a tekintetet, így bárkivel is folyik a csevegés, az látja, hogy a beszélgetőpartnere rá néz, nem pedig a kamerára.
Az ilyen funkciókat a Microsoft a Windowsba tervezi beépíteni. A tekintetkövetés mellett az NPU-k a kamerák automatikus keretezését, valamint a háttér dinamikus elmosását is lehetővé teszik majd a figyelemelterelés csökkentése érdekében. Ez azt jelentheti, hogy az NPU-k dedikált hardveren futnak, webkamerákba építve, és a kamerában lévő összetett képfeldolgozási feladatokat még azelőtt leterhelik, hogy az eredményül kapott videót a számítógépen használhatnánk.
A cél az, hogy a mesterséges képernyőélményt olyanná alakítsák át, amely a technológia helyett az érintett emberekre összpontosít. A hangfeldolgozást a zajok kiszűrésére használják, valamint a szoba egésze helyett a beszélő hangjára összpontosítanak. E technikák némelyike, például a hangfókuszálás, a távoli résztvevőknek kíván segítséget nyújtani egy értekezleten, lehetővé téve számukra, hogy ugyanúgy hallják, amit a tárgyalóteremben egy közös mikrofont használó előadó mond, mint ahogyan egy külön mikrofonnal felszerelt szobában hallanának valakit, aki egyedül van.
Az NPU-k megkönnyítik ezeknek a technikáknak a megvalósítását, mivel lehetővé teszik, hogy valós időben fussanak anélkül, hogy túlterhelnék a CPU-t vagy a GPU-t. Az ilyen gépi tanulási modelleket megcélzó gyorsítók megléte teszi lehetővé, hogy a számítógép nem melegedjen túl vagy lemerüljön az akkumulátorról.
A Windows a jövőben egyre inkább az NPU-kra támaszkodik majd. A Microsoft bejelentette, hogy a Project Volterra ARM-alapú fejlesztői hardverét használja építési és tesztelési platformnak az NPU-alapú kódokhoz. A közeljövőben szállítható Project Volterra egy olyan asztali eszköz, amelyet valószínűleg a Qualcomm 8cx Gen3 processzor SQ3 változata hajt majd a Microsoft saját, egyedi NPU-jával. Ezt az NPU-t úgy tervezték, hogy a fejlesztők elkezdhessék használni a funkcióit a kódjukban, és a Qualcomm Neural Processing SDK for Windows egy változatának segítségével kezeljék a videó- és hangfeldolgozást.
A Microsoft arra számít, hogy az NPU-k a mobil és asztali hardverek szabványos jellemzőjévé válnak, ehhez pedig az kell, hogy az NPU-alapú hardverek, mint a Project Volterra, a fejlesztők kezébe kerüljenek. A Project Volterrát úgy tervezték, hogy stószolható legyen, így több is beépíthető lesz egymásra helyezve a fejlesztői állványba. Így a fejlesztők egyszerre írhatnak kódot, építhetnek alkalmazásokat és futtathatnak teszteket.
A Project Volterra csak egy része az ARM-alapú NPU-alkalmazások építéséhez szükséges végponttól végpontig tartó eszközkészletnek. Ehhez csatlakozik majd a Visual Studio ARM-natív verziója a .NET és a Visual C++ mellett. Ha valaki saját gépi tanulási modelleket szeretne építeni a Volterra hardveren, az ARM támogatja a WSL-t - a Windows Subsystem for Linuxot -, ahová gyorsan telepíthetők a gyakori gépi tanulási keretrendszerek. A Microsoft számos ismert nyílt forráskódú projekttel fog együttműködni, hogy ARM-natív buildeket szállítson, így az összes eszköztár készen áll majd a Windows hardverek következő generációjára.
Bár ma még csak néhány PC-nak, például a Surface Pro X-nek van NPU-támogatása, egyértelmű, hogy a jövő egészen másképp néz ki. A különböző típusú AI-gyorsítók vagy a chiplet system-on-a-chip rendszerekbe lesznek beépítve, vagy a széles körben elérhető PCIe portokat használó plug-inek lesznek. Mivel a Microsoft készen áll arra, hogy olyan eszközöket szállítson, amelyekkel kódot lehet készíteni, amely képes használni őket, valamint bemutatja saját AI-alapú fejlesztéseit a Windowshoz, úgy tűnik, nem kell sokat várni az NPU-k előnyeinek kihasználására. A következő generációs PC-kbe már be kell építeni őket.
