A ChatGPT-től kért tanácsot egy 60 éves férfi egészségesebb étrendjéhez. Három hónappal később aggasztó új pszichiátriai tünetekkel, többek között paranoiával és hallucinációkkal került a sürgősségi osztályra. Ugyanis egy ritka betegség alakult ki nála a mesterséges intelligencia által ajánlott tanácsok miatt - számolt be a különös esetről a Live Science.
Mint írják, a férfi - akinek származására nem tér ki jelentés - ki akarta hagyni az étrendjéből a kloridot, ezügyben kért tanácsot a ChatGPT-től. A ChatGPT szerint a klorid bromidra cserélhető, ezért az illető az étrendjében található összes nátrium-kloridot nátrium-bromidra cserélte.
Következetesen tartotta magát a mesterséges intelligencia-ajánlásokhoz, a bróm használatára váltott, az azonban lassan felhalmozódott a szervezetében és pszichiátriai tüneteket okozott. A férfi végül három hetet töltött kórházban, mire ismét stabil lett az állapota.
A Live Science megkereste az OpenAI-t, a ChatGPT fejlesztőjét az esettel kapcsolatban.
A szóvivő a vállalat szolgáltatási feltételeire hívta fel a figyelmet, amelyek kimondják, hogy szolgáltatásaik nem alkalmasak semmilyen egészségügyi állapot diagnosztizálására vagy kezelésére.
A felhasználási feltételek szintén rögzítik: „Ne támaszkodjon a Szolgáltatásainkból származó adatokra kizárólagos igazság- vagy tényszerű információforrásként, és ne helyettesítse azzal a szakmai tanácsadást.”
A szóvivő hozzátette, hogy
az OpenAI biztonsági csapatainak célja a vállalat szolgáltatásainak igénybevételével járó kockázatok csökkentése, valamint a ChatGPT betanítása, hogy a felhasználókat szakmai tanácsadás kérésére ösztönözze.
„Bár a mesterséges intelligencia nagy potenciállal rendelkezik arra, hogy hidat képezzen a tudósok és a laikus lakosság között, a mesterséges intelligencia magában hordozza a kontextusból kiragadott információk terjesztésének kockázatát is” – vonták le a következtetést az esetet kivizsgáló szakértők.
