Az NVIDIA vezető kutatója szerint amikor az energiatakarékos számítási teljesítményről van szó, akkor a CPU-k lemaradnak az előző processzorokból örökölt, kompatibilitás miatt fenntartott funkciók visszahúzó hatása miatt. Emiatt nem tudják felülmúlni a GPU-kat a párhuzamos végrehajtásban.
Bill Dally szerint a processzorok rengeteg energiát égetnek el olyan feladatok végrehajtására, melyek a mai környezetekben szükségtelenek. Ezt szerdai nyitóbeszédében fejtette ki az NVIDIA kutatási részlegének első alelnöke a New Orleans-ban megrendezett Supercomputer 2010 konferencián. Kifejtette azt is, hogy míg a GPU-kat az áteresztőképességre (összteljesítmény) optimalizálják, addig a CPU-k esetében a végrehajtás pillanatnyi késleltetését igyekeznek csökkenteni, hogy az adott szál mielőbb előbbre jusson.
Dally rámutatott néhány örökletes visszafogó tényezőre, ami miatt a modern CPU-k zöme energiát pazarol el a szálak mielőbbi továbbfuttatása érdekében:
- Kiemelte az elágazások előrejelzését (branch prediction): minden elágazás előtt, még mielőtt a feltételt kiértékelné a CPU megpróbálja megjósolni, hogy milyen irányban folytatódik a programkód és az esélyesebb utasításblokkot előértelmezi, hogy aztán gyorsabban mehessen tovább a munka. Ez rengeteg energiát emészt fel, mivel minden egyes elágazás előtt végrehajtásra kerül.
- A spekulatív végrehajtással - olyan kód előzetes végrehajtása, melynek eredményeire talán nem is lesz szükség - különösen sok áram illan el a semmibe, hővé alakulva.
- A CPU nem sajnálja a fáradtságot és előre optimalizálja, új sorrendbe rakja az utasításokat, hogy kevesebb holtidő teljen azzal, hogy a folyamat a memóriára vár.
- A visszamenőleges kompatibilitás miatt számos régi utasítást hordoz magában a processzor, melyek értelmezése összetett és energiaigényes.
A GPU-t (Graphics Processing Unit) eredetileg grafikai megjelenítés, leképezés céljára találták ki, de a beszállítók - például az NVIDIA és az AMD - ma már általános feldolgozó egységként is kelletik portékáikat, legalábbis akkor, ha a végrehajtandó feladatok lebonthatók több, párhuzamosan futtatható szakasszá.
NVIDIA Tesla GPU fürt
Példaként hozta fel Dally a kínai Tianhe-1A szuperszámítógépet, amelyek nemrég kerültek a TOP500 lista csúcsára. Ebben a rendszerben 7168 NVIDIA Tesla M2050 GPU dolgozik a 14 000 CPU mellett. Az NVIDIA szerint a GPU-k hiányában azonos teljesítmény eléréséhez még majdnem négyszer ennyi CPU-ra lenne szükség, kétszer ekkora területre és háromszor ennyi energiára.
Dally szerint a programozók is lassan elmozdulnak a párhuzamos végrehajtás szempontjából optimalizált kódolás felé. Az ilyen szoftverek számára pedig ideális a GPU alapú futtató környezet, azaz a GPU-k fokozódó elterjedésére számít a szakértő nem csak a speciális, hanem mindennapi területeken is.
Dally egyértelműen hisz a GPU-k felsőbbrendűségében, ami az energiafogyasztást illeti. Míg a következő generációs Fermi architektúra egyetlen utasítás végrehajtására 200 piko-joule energiát költ, addig egy CPU ugyanezen célból 2 nano-joule-t pazarol el, vagy egy nagyságrenddel akár többet.
Elismerve a GPU jobb fajlagos teljesíményét egységnyi energiára vetítve, azért akadnak, akik nem ennyire optimisták. Dave Turek, az IBM szuperszámítógép divíziójának vezetője a múlt héten meg is osztotta aggodalmait: aggasztotta, hogy igen kevés memória áll rendelkezésre egy GPU számára az ilyen rendszerekben és (emiatt is) nehéz folyamatosan munkával ellátni a GPU-kat, alacsony kihasználtság mellett pedig már nem annyira gazdaságos GPU-ra bízni a feladatokat. Turek a sávszélességben látja a szűk keresztmetszetet, GPU és CPU alapú rendszerek esetében egyaránt.
