A ChatGPT még nem olyan okos, hogy képes legyen megtalálni a saját hibáit, ezért a fejlesztője az emberekhez fordult segítségért. Az OpenAI kedden bemutatta a bug bounty programot, amely arra ösztönzi az embereket, hogy találják meg és jelentsenek sebezhetőségeket és hibákat a mesterséges intelligencia rendszereiben, például a ChatGPT-ben és a GPT-4-ben.
A program részleteit ismertető weboldalán az OpenAI azt írta, hogy a bejelentésekért járó jutalmak a 200 dollártól az alacsony súlyosságú felfedezésekért a 20 ezer dollárig terjedő összegig terjednek az általa "kivételes felfedezéseknek" nevezett esetekért.
A Microsoft által támogatott társaság elmondta, hogy célja olyan AI-rendszerek létrehozása, amelyek mindenki számára hasznosak. "Ennek érdekében nagy összegeket fektetünk a kutatásba és a mérnöki munkába, hogy mesterséges intelligencia rendszereink biztonságosak legyenek. Azonban, mint minden összetett technológiánál, itt is tisztában vagyunk azzal, hogy sebezhetőségek és hibák merülhetnek fel."
A programban való részvétel iránt érdeklődő biztonsági kutatóknak címezve az OpenAI elmondta, hogy felismerte "a biztonság kritikus fontosságát, és ezt közös erőfeszítésnek tekinti. Azzal, hogy megosztják eredményeiket, döntő szerepet játszanak abban, hogy technológiánkat mindenki számára biztonságosabbá tegyük."
Mivel egyre többen próbálják ki a ChatGPT-t és az OpenAI más termékeit, a vállalat igyekszik gyorsan felderíteni az esetleges problémákat, hogy biztosítsa a rendszerek zökkenőmentes működését, és megakadályozza, hogy a gyenge pontokat aljas célokra használják ki. Az OpenAI ezért azt reméli, hogy a technológiai közösséggel való együttműködés révén megoldja az esetleges problémákat, mielőtt azok komolyabb problémává válnának.
A kaliforniai székhelyű cégnek már volt egy ijesztő esete, amikor egy hiba miatt nyilvánosságra kerültek egyes felhasználók beszélgetéseinek címei, miközben azoknak privátnak kellett volna maradniuk.
Sam Altman, az OpenAI vezérigazgatója a múlt hónapban történt incidens után azt mondta, hogy az adatvédelmi malőrt "jelentős problémának" tartja, és hozzátette: "Szörnyen érezzük magunkat emiatt". Mostanra már kijavították a hibát.
A baklövés akkor vált nagyobb problémává az OpenAI számára, amikor Olaszország komoly aggodalmát fejezte ki az adatvédelmi incidens miatt, és úgy döntött, hogy betiltja a ChatGPT-t, amíg alapos vizsgálatot nem végez. Az olasz hatóságok részleteket is követelnek arról, hogy az OpenAI milyen intézkedéseket kíván hozni annak érdekében, hogy ez ne ismétlődhessen meg.
