A mesterséges intelligencia (MI) területén egyelőre vadnyugati viszonyok uralkodnak. Az AI-alkalmazásokat egyre gyakrabban használják arra, hogy az emberek életével kapcsolatos fontos döntéseket hozzanak, gyenge felügyelettel vagy elszámoltathatóság nélkül. Ennek pusztító következményei lehetnek: téves letartóztatások, helytelen osztályzatok a diákoknak, sőt pénzügyi csődök is. A nők, a marginalizált csoportok és a színesbőrűek pedig gyakran szembesülnek az MI "elfogultsága" miatti hibákkal és túlkapásokkal.
Az Európai Unió úgy gondolja, hogy van megoldás: az összes mesterséges intelligenciáról szóló törvény, az úgynevezett AI-törvény megalkotása. Ez lesz az első olyan jogszabály, amely az egész ágazat szabályozásával kívánja megfékezni ezeket a károkat. Ha az EU sikerrel jár, az új globális szabványt állíthat fel a mesterséges intelligencia felügyeletére világszerte. A törvénytervezetet jelenleg az Európai Parlament és az uniós országok képviselői értékelik és módosítási javaslatokat tesznek.
A rendkívül ambiciózus MI-törvény extra ellenőrzéseket írna elő a mesterséges intelligencia "magas kockázatú", az embereket leginkább veszélyeztető felhasználása esetén. Ide tartozhatnának az osztályozó vizsgák, az alkalmazottak toborzására vagy a bírák joggal és igazságszolgáltatással kapcsolatos döntéseinek meghozatalához támogatást nyújtó rendszerek. A törvényjavaslat első tervezete tiltja a mesterséges intelligencia "elfogadhatatlan" felhasználását is, például az emberek pontozását a megbízhatóságuk alapján.
A törvényjavaslat korlátozná továbbá a bűnüldöző szervek arcfelismerő rendszereinek nyilvános helyeken történő használatát. A hatalmi szereplők egy hangos csoportja, köztük az Európai Parlament egyes tagjai, de országok, köztük Németország is, teljesen betilaltaná a nyilvános helyeken történő MI-arcfelismerés használatát, vagy moratóriumot hirdetne rá a bűnüldöző szervek és a magánvállalatok számára. Ezen álláspont szerint a technológia ugyanis lehetővé teszi a tömeges megfigyelést.
Ha az EU-nak sikerül ezt keresztülvinnie, az a technológia eddigi egyik legerősebb korlátozása lenne. Néhány amerikai állam és város -például San Francisco és Virginia - már bevezette az arcfelismerés korlátozását, de az uniós tilalom 27 országra és több mint 447 millió lakosra vonatkozna.
Elméletileg az embereket meg kellene védenie a mesterséges intelligencia legrosszabb mellékhatásaitól azzal, hogy az alkalmazások felhasználói legalább bizonyos szintű ellenőrzéssel és elszámoltathatósággal szembesüljenek. Az emberek bízhatnak abban, hogy megvédik őket a mesterséges intelligencia legkárosabb formáitól - idézte az MTI Technology Review az Európai Parlament olasz képviselőjét, Brando Benifeit, aki a törvényjavaslaton dolgozó csoport egyik kulcsalakja.
A törvényjavaslat előírja, hogy az embereket értesíteni kell, ha mélyhamisításokkal, biometrikus felismerő rendszerekkel vagy olyan AI-alkalmazásokkal találkoznak, amelyek azt állítják, hogy képesek olvasni az érzelmeikben. A törvényhozók azt is megvitatják, hogy a törvénynek létre kell-e hoznia egy olyan mechanizmust, amelynek segítségével az emberek panaszt tehetnek és jogorvoslatért folyamodhatnak, ha egy mesterséges intelligenciával működő rendszer kárt okozott nekik.
Az Európai Parlament is a prediktív rendőrségi rendszerek betiltását szorgalmazza. Ezek a mesterséges intelligenciát nagy adathalmazok elemzésére használják annak érdekében, hogy a rendőrséget megelőző céllal a bűnözésnek kitett területekre vezényeljék, vagy hogy megpróbálják megjósolni egy személy potenciális bűnelkövetését. Ezek a rendszerek rendkívül ellentmondásosak, továbbá a kritikusok szerint gyakran rasszisták és nem átláthatóak.
A technológiai cégek lobbistáinak gyakori kritikája, hogy egy ilyen jogszabály további bürokráciát okoz a mesterséges intelligenciával foglalkozó vállalatok számára. Az EU viszont azt állítja, hogy az MI-törvény csak a legkockázatosabb MI-felhasználásokra vonatkozik majd, ami az Európai Bizottság, becslései szerint az összes MI-alkalmazásnak mindössze 5-15 százalékát teszi ki.
A technológiai vállalatokat "meg kell nyugtatnunk, hogy stabil, világos, jogilag megalapozott szabályrendszert akarunk nyújtani számukra, hogy a mesterséges intelligencia nagy részét nagyon korlátozott szabályozás mellett fejleszthessék" - mondja Benifei.
A szabályokat be nem tartó szervezetek akár 30 millió eurós, vagy a vállalatok esetében a teljes éves globális bevételük akár 6 százalékának megfelelő bírságra is számíthatnak. A tapasztalatok azt mutatják, hogy Európa nem fél a bírságok kiszabásától a technológiai vállalatokra. Az Amazon 2021-ben 746 millió eurós bírságot kapott a GDPR megsértése miatt, a Google-t pedig 2018-ban 4,3 milliárd eurós bírsággal sújtották az unió trösztellenes törvényeinek megsértése miatt.
Még legalább egy évbe telik, mire a végleges szöveg elkészül, és még néhány évbe, mire a vállalkozásoknak minden érintettnek meg kell felelnie. Van rá esély, hogy egy ilyen átfogó, sok vitás elemet tartalmazó törvényjavaslat részleteinek kidolgozása még jóval tovább elhúzódhat. A GDPR tárgyalása több mint négy évig tartott, és hat év telt el, mire hatályba lépett - írja az MIT magazinja.
