A ChatGPT-től kért tanácsot egy 60 éves férfi egészségesebb étrendjéhez. Három hónappal később aggasztó új pszichiátriai tünetekkel, többek között paranoiával és hallucinációkkal került a sürgősségi osztályra. Ugyanis egy ritka betegség alakult ki nála a mesterséges intelligencia által ajánlott tanácsok miatt - számolt be a különös esetről a Live Science.

Mint írják, a férfi - akinek származására nem tér ki jelentés -  ki akarta hagyni az étrendjéből a kloridot, ezügyben kért tanácsot a ChatGPT-től. A ChatGPT szerint a klorid bromidra cserélhető, ezért az illető az étrendjében található összes nátrium-kloridot nátrium-bromidra cserélte.

Kapcsolódó

Következetesen tartotta magát a mesterséges intelligencia-ajánlásokhoz, a bróm használatára váltott, az azonban lassan felhalmozódott a szervezetében és pszichiátriai tüneteket okozott. A férfi végül három hetet töltött kórházban, mire ismét stabil lett az állapota.

A Live Science megkereste az OpenAI-t, a ChatGPT fejlesztőjét az esettel kapcsolatban. 

A szóvivő a vállalat szolgáltatási feltételeire hívta fel a figyelmet, amelyek kimondják, hogy szolgáltatásaik nem alkalmasak semmilyen egészségügyi állapot diagnosztizálására vagy kezelésére.

A felhasználási feltételek szintén rögzítik: „Ne támaszkodjon a Szolgáltatásainkból származó  adatokra kizárólagos igazság- vagy tényszerű információforrásként, és ne helyettesítse azzal a szakmai tanácsadást.”

A szóvivő hozzátette, hogy 

az OpenAI biztonsági csapatainak célja a vállalat szolgáltatásainak igénybevételével járó kockázatok csökkentése, valamint a ChatGPT betanítása, hogy a felhasználókat szakmai tanácsadás kérésére ösztönözze.

„Bár a mesterséges intelligencia nagy potenciállal rendelkezik arra, hogy hidat képezzen a tudósok és a laikus lakosság között, a mesterséges intelligencia magában hordozza a kontextusból kiragadott információk terjesztésének kockázatát is” – vonták le a következtetést az esetet kivizsgáló szakértők.