A tel-avivi Blavatnik School of Computer Science és a School of Electrical Engineering kutatóinak tanulmánya szerint eredményeik arra utalnak, hogy az arcfelismerő rendszerek rendkívül sebezhetőek. A kutatók bemutattak egy olyan módszert, amellyel "mesterarcokat", azaz számítógépen generált arcokat lehet létrehozni, amelyek az arcfelismerő rendszerek mesterkulcsaként működnek, és a kutatók szerint nagy valószínűséggel képesek több személyazonosságot is megszemélyesíteni.
A tanulmányban kifejtették, hogy kilenc "mesterkulcs" arcot hoztak létre, amelyek képesek megszemélyesíteni az arcok közel felét három vezető arcfelismerő rendszer adathalmazában. A kutatók szerint eredményeik azt mutatják, ezek a mesterarcok sikeresen képesek megszemélyesíteni a populáció több mint 40 százalékát ezekben a rendszerekben anélkül, hogy az azonosított személyről bármilyen további információ vagy adat rendelkezésre állna.
A tanulmány idézi a korábbi kutatásokat, amelyek hasonló módszert fejlesztettek ki a mesterujjlenyomatok létrehozására. A tanulmány szerint eredményeik arra utalnak, hogy az arcfelismerő rendszerek "rendkívül sebezhetőek". A "mesterkulcs" arcok általában idősebbek voltak, és nem volt rajtuk szemüveg vagy arcszőrzet.
A szakemeberek három mély arcfelismerő rendszerrel - Dlib, FaceNet és SphereFace - szemben tesztelték módszereiket. Ron Shmelkin a tanulmány vezető szerzője a Vice Motherboardnak elmondta, hogy azért használták ezeket a rendszereket, mert ezek képesek felismerni az arcok "magas szintű szemantikai jellemzőit", amelyek kifinomultabbak, mint a bőrszín vagy a fényhatások.
A kutatók egy StyleGAN-t használtak az arcok generálásához, majd egy evolúciós algoritmus és neurális hálózat segítségével optimalizálták és megjósolták a sikerüket. Az evolúciós stratégia ezután különböző sikerességi arányú jelöltek iterációit vagy generációit hozza létre. A kutatók ezután az algoritmust egy neurális hálózat betanítására használták, hogy a legjobb jelölteket a legígéretesebbeknek minősítsék. Ez az, ami megtanítja a jelöltek sikerének előrejelzésére, és így az algoritmust arra irányítja, hogy jobb, nagyobb valószínűséggel megfelelő jelölteket hozzon létre.
"Szeretnénk tovább vizsgálni annak lehetőségét, hogy a módszerünk által generált mesterarcokat hogy használjuk fel annak érdekében, hogy segítsünk megvédeni a meglévő arcfelismerő rendszereket az ilyen támadásoktól" - mondta Shmelkin.
A kutatók még azt is megjósolják, hogy az általuk készített mesterarcokat a deepfake technológia segítségével animálni lehetne, hogy megkerüljék az életképesség-érzékelést, amely alapján megállapítható, hogy egy biometrikus minta valódi vagy hamis.
A tanulmány azt is megjegyzi, hogy a Massachusettsi Egyetem Labeled Faces in the Wild (LFW) adatállományában a 60 év feletti fehér férfiak a fiatalabb csoportokhoz képest általában kevésbé változatosak, így e csoport nagy részét lefedhetné egyetlen idősebb mesterarc. Emellett a kilenc létrehozott mesterarc közül csak kettő volt nő, ami a tanulmány szerint megfelel a női arcok "sokkal kisebb gyakoriságának" az LFW-adatkészletben (22 százalék).
A Blavatnik kutatóinak eredményei megmutatják, hogy az arcfelismerő szoftverek hibásak és elfogultak lehetnek. A bűnüldöző szervek által történő folyamatos használatuk több téves letartóztatást eredményeztek, különösen, hogy bebizonyosodott, a rendszer könnyen manipulálható.
