De bár tudatosan is becsaphat egy deepfake, új bizonyítékok arra utalnak, hogy az agyunk jobban meg tudja különböztetni őket, mint a tudatunk. A Vision Research című szaklapban megjelent tanulmány szerint a hamis portrék különböző jeleket váltanak ki az agyi szkennereken.
Bár tudatosan nem tudjuk kiszúrni a hamisítványt (a mellékelt fotók közül a jobb oldali arc a hamisítvány), az idegsejtjeink megbízhatóbban különítik el a valsóságosat a hamisítványtól. "Az agyunk látja a különbséget a két kép között. Csak a látvány nem tudatosul bennünk" - mondta a cikk társszerzője, Thomas Carlson, a Sydney Egyetem pszichológiai karának kutatója.
A szakemberek arra kérték az önkénteseket, hogy nézzenek meg egy több száz fotóból álló sorozatot, amelyek közül néhány valódi volt, néhány pedig egy GAN (Generative Adversarial Network, generatív adverzális hálózat, a mélyhamisítások készítésének gyakori módja) által generált hamisítvány.
A 200 résztvevőből álló egyik csoportot arra kérték, hogy egy gombnyomással tippeljék meg, melyik kép valódi, és melyik hamis. Egy másik, 22 résztvevőből álló csoport nem tippelt, hanem tagjai elektroenkefalográfiás (EEG) vizsgálatoknak vetették alá magukat, miközben a képeket nézték.
Az EEG-k a valódi képekhez képest eltérő jeleket mutattak, amikor a résztvevők mélyhamisítványokat néztek. "Az agy másképp reagál, mint amikor valódi képet lát. Elég nehéz kitalálni, hogy pontosan mit is észlel, mert igazából csak annyit lehet látni, hogy a reakciója más. Ez olyasmi, aminek a kiderítéséhez további kutatásokat kell végeznünk" - állapította mega Carlson.
Az EEG-vizsgálatok nem voltak bolondbiztosak: csak az esetek 54 százalékában tudták kiszűrni a mély hamisítványokat. De ez lényegesen jobb, mint azoknál a résztvevőknél, akik tudatosan tippeltek. Az emberek csak az esetek 37 százalékában találták meg a deepfake-eket, azaz rosszabb eredményességgel, mintha csak feldobtak volna egy érmét.
"Az a tény, hogy az agy képes felismerni a mélyhamisítványokat, azt jelenti, hogy a jelenlegi deepfake-ek hibásak. Ha meg tudjuk tanulni, hogyan szúrja ki az agy a mélyhamisítást, akkor ezt az információt felhasználhatjuk olyan algoritmusok létrehozására, amelyek jelzik a potenciális deepfake-eket a digitális platformokon, például a Facebookon és a Twitteren" - jelentette ki Carlson. Az eljárás a csalások és lopások megelőzésére is felhasználható lenne.
"Az EEG-képes sisakok segíthettek volna a közelmúlt bankrablási és vállalati csalási ügyeinek megelőzésében Dubajban és az Egyesült Királyságban, ahol a csalók klónozott hangtechnológiát használtak több tízmillió dollár ellopására. Ezekben az esetekben a pénzügyi személyzet azt hitte, hogy egy megbízható ügyfél vagy munkatárs hangját hallja, és rászedték őket, hogy átutaljanak pénzösszegeket" - mondta Carlson.
Ez azonban korántsem jelent garanciát. A kutatók a tanulmányukban rámutatnak, hogy a GAN-ok még a kutatásuk során is fejlettebbé váltak, és jobb hamis képeket generáltak, mint amilyeneket a tanulmányukban használtak. Lehetséges, hogy ha egyszer majd léteznek az algoritmusok, a deepfake-gyártók egyszerűen kitalálják, hogyan lehet kijátszani őket - írta a Cosmos magazin.
