Az előítéletesség - ha nem is szándékosan, de - mindig is hajlamos volt beszivárogni a hirdetésekbe, finom nyomást gyakorolva arra, hogy ki láthat egy hirdetést, és ki nem. Az IBM Watson Advertising és a The Ad Council új kutatása bepillantást enged abba a lehetséges szerepbe, amelyet a mesterséges intelligencia (AI) játszhat az egyes márkák hirdetéseiben megjelenő előítéletek csökkentésében.
Az IBM új kutatása szerint a reklámiparban és az egész kultúrában is egyre inkább tudatosul, hogy az előítéletek milyen ártalmas és gyakran finom módon képesek beépülni a közbeszédbe. A kutatás hat hónapon keresztül zajlott az IBM Watson és a Ad Council együttműködésében. Közösen vették górcső alá az Ad Council "It's up to you" (Rajtad múlik) című közszolgálati hirdetését, amely 2021-ben futott, és célja a Covid-19 oltási tétovaság csökkentése volt. A kutatócsoport az IBM szoftverét vetette be annak megállapítására, hogy bizonyos csoportok "rendszerszintűen előnyös vagy hátrányos helyzetben vannak-e?". Vagyis, hogy nagyobb vagy kisebb valószínűséggel voltak-e elérhetők a vizsgált reklámok számára.
Más szóval az elsődleges cél az elfogultságok azonosítása és mérése volt. A csoport azt is meg akarta vizsgálni, hogy a reklámok megjelenésének kontextusa milyen hatással van a hirdetésekben felbukkanó elfogultságokra. Arra is kíváncsiak voltak, hogy a mesterséges intelligencia milyen szerepet játszhat a hirdetésekben megjelenő elfogultságok mérséklésében.
Az eredmények megerősítették, hogy az egyes embercsoportokkal szembeni elfogultságok valójában nagyon is valós problémát jelentenek. Gyakran a hirdetéseken keresztül terjesztett elfogultságok teljesen szándéktalanok és ismeretlenek a tervezők számára. Ilyenkor "nem szándékos elfogultságokról" van szó, mivel egy algoritmus által hozott tudattalan döntések sorozatának termékei, amelyek egy bizonyos csoport aránytalan megcélzásához (vagy figyelmen kívül hagyásához) vezethetnek.
A kutatás azt is megállapította, hogy a reklámcélzási algoritmusok egy kicsit kifinomultabbá és pontosabbá váltak, mint azt korábban gondolták. A hirdetők megcélozhatnak például egy bizonyos korcsoportot, de az algoritmus végül - bármilyen összetett okból - tovább léphet, és az adott népesség egy részhalmazát (például a középiskolai végzettségűeket) célozhatja meg.
"Az algoritmusok valójában más összetevőket is láthatnak... amelyeket talán nem is kérünk, hogy nézzenek meg" - mondta Robert Redmond, az IBM AI hirdetési terméktervezésért felelős vezetője. "Ilyenkor láthatjuk, hogy lehetőségünk van optimalizálni egy olyan csoport irányába, amelyet valójában nem azonosítottunk. Megpróbáljuk megérteni, hogy mi történik az algoritmussal, hogyan dolgozza fel a látott információk egyéb jeleit." - mondta a szakember.
Az IBM kutatása, ahogy Redmond rámutatott, csak az első lépés. A rendszerszintű elfogultságra utaló bizonyítékokat észlelték. Most a márkáknak azzal a sokkal ijesztőbb feladattal kell szembenézniük, hogy lényegében visszafejtsék a marketingstratégiáikat, és felderítsék, hogyan és hol szivárognak be ezek az elfogultságok a rendszereikbe.
