Nemrégiben visszautasította a szoftvergyártó óriás egy kaliforniai rendvédelmi szerv kérését, hogy telepítsen arcfelismerő technológiát a rendőrtisztek autóiba és testkamerájába, mivel aggódik az emberi jogok esetleges megsértése miatt, közölte Brad Smith, a vállalat elnöke.
A Microsoft ugyanis arra a megállapításra jutott, hogy a technológia alkalmazása ártatlan nők és kisebbségekhez tartozók aránytalan mértékű kikérdezés miatti feltartóztatásához vezethet, mivel a mesterséges intelligenciát főként fehérek és férfiak képeivel tanították be. Kutatások szerint a mesterséges intelligencia nagyobb arányban téved nők és kisebbséghez tartozók azonosításakor.
Minden megállítás során arcszkennelést akartak végrehajtani és az eredményt összevetni egy bűnözői adatbázissal, mondta Smith a szervezet megnevezése nélkül. A Stanford Egyetem emberközpontú mesterséges intelligenciával foglalkozó konferenciáján előadó Smith elmondta azt is, hogy a Microsoft ugyancsak visszautasított egy megrendelést egy, a Freedom House által nem szabadnak minősített, meg nem nevezett ország részéről, amely fővárosába akart a területet lefedő, arcfelismerő technológiával ellátott kamerákat telepíteni.
Ugyanakkor a Microsoft beleegyezett abba, hogy telepítse a technológiát egy amerikai börtönbe, miután meggyőződött arról, hogy az érintett terület korlátozott, és a technológia növeli a szintén meg nem nevezett intézmény biztonságát.
Smith vállalata döntéseit azzal magyarázta, hogy elkötelezettek az emberi jogok védelme iránt, ami különösen fontos manapság, amikor a gyors technológia fejlődés lehetővé teszi a kormányok számára a mindenre kiterjedő, tömeges megfigyelést, vagy automatizált fegyverek hadrendbe állítását.
Smith sürgette az arcfelismerésre és más mesterséges intelligencia alkalmazásokra vonatkozó szabályozás szigorítását, felhívva a figyelmet arra, hogy e nélkül a legtöbb adat begyűjtésére törekvő vállalatok fogják megnyerni a legjobb mesterséges intelligencia megoldások versenyét.
A konferencián ugyancsak részt vevő Michelle Bachelet, az ENSZ emberi jogi főbiztosa arra kérte a technológiai cégeket, hogy az új eszközök fejlesztésekor mérlegeljék azok hatását.
- Kérem, hogy a technológiák fejlesztésekor legyenek tekintettel az emberi jogokra, mondta a volt chilei elnök.
