A Tesla új szuperszámítógépe, bár az ötödik legerősebb a világon, mégis csak egy előfutára annak a berendezésnek, amely az önvezető autók hálózatait fogja felügyelni. A Dojo nevű komputergigász az év végére fog elkészülni. A most üzembe állított gépet a járművek felügyeletét ellátó Tesla Autopilot és az önvezető AI-t működtető neurális hálók betanítására használják.
Az elmúlt néhány évben a Tesla egyértelműen a számítási teljesítményre összpontosított a járművein belül és kívül egyaránt. Belül elég erős számítógépekre van szüksége az önvezető szoftver futtatásához, kívül pedig szuperszámítógépekre, hogy a flottából érkező őrült mennyiségű adattal táplált neurális hálók segítségével működő önvezető szoftvert betanítsák.
Elon Musk vezérigazgató a Tesla Dojo projektjéről sejtette, hogy az egy exaFLOP, azaz másodpercenként egy kvintillió (1018) lebegőpontos műveletre, azaz 1000 petaFLOPS-ra képes szuperszámítógépből lesz, a világon az egyik legerősebb. A Tesla az elmúlt években folyamatosan dolgozott a Dojo-n, és Musk utalt rá, hogy az év végére elkészülhet.
A Dojo felé vezető úton azonban a vállalat már más szuperszámítógépeket is fejlesztett, és most Andrej Karpathy, a Tesla mesterséges intelligenciáért felelős vezetője a 2021-es Computer Vision and Pattern Recognition konferencián tartott előadáson mutatta be a legújabbat. Az előadás során a szekember elismerően nyilatkozott a Tesla szuperszámítógépes csapatáról, és bemutatta legújabb munkájukat, a Tesla harmadik szuperszámítógép-klaszterét.
A Tesla meglehetősen őrült specifikációkal állt elő az új klaszterről, ami nagyjából a világ ötödik legerősebb számítógépe lehet:
- 720 node 8x A100 80GB. (a GPU összesen 5760)
- 1,8 EFLOPS (720 csomópont * 312 TFLOPS-FP16-A100 * 8 gpu/csomópont)
- 10 PB "hot tier"" NVME tároló 1,6 TBps sebességgel
- 640 Tbps teljes kapcsolási kapacitás
Karpathy a következőképpen kommentálta az erőfeszítéseiket:
Van egy neurális háló architektúrájú hálózatunk és van egy adathalmazunk, egy 1,5 petabájtos adathalmaz, amely hatalmas mennyiségű számítást igényel. Ezért szerettem volna egy kis reklámot adni ennek az őrült szuperszámítógépnek, amelyet most építünk és használunk. Számunkra a számítógépes látás a kenyér és vaj, amivel foglalkozunk, és ami lehetővé teszi az Autopilotot. Ahhoz, hogy ez igazán jól működjön, a flotta adatait fel kell dolgoznunk, hatalmas neurális hálókat kell képeznünk, és sokat kell kísérleteznünk. Ezért sokat fektettünk a számítástechnikába. Ebben az esetben van egy klaszterünk, amelyet 720 csomópontból építettünk, 8x A100-as, 80 GB-os verzióval. Ez tehát egy hatalmas szuperszámítógép. Valójában úgy gondolom, hogy a flopok számát tekintve ez nagyjából a világ 5. számú szuperszámítógépe.
A Tesla mérnöke nem kívánta részletezni a Dojo projektet, de azt elmondta, hogy az a jelenlegi Tesla-rendszernél egy még jobb, neurális hálók képzésére optimalizált szuperszámítógép lesz. Musk korábban azt is elmondta, a Tesla azt tervezi, hogy szuperszámítógépeit idővel más vállalatok számára is elérhetővé teszi, hogy azok is betaníthassák rajta a neurális hálóikat.
Itt Karpathy előadása a CCVPR 2021-en ide kattintva elérhető!
