Egy mesterséges intelligencia által létrehozott chatbot pontos mennyiségeket adott egy kaliforniai egyetemistának, Sam Nelsonnak a drogkoktélokhoz, és biztosította őt arról, hogy amit csinál, az biztonságos.

A 19 éves hallgató tanácsot kért a ChatGPT-től, hogyan szedjen Xanaxot, egy szorongás kezelésére használt depresszánst, és a kratom gyógynövénykivonatot, egy opioidszerű tulajdonságokkal rendelkező, függőséget okozó fájdalomcsillapítót.

A több mint 18 hónapon át folytatott beszélgetéseinek átiratai azt mutatják, hogy a chatbot pontos adagokat adott a drogkoktélokhoz, és biztosította arról, hogy amit csinál, az biztonságos.

Halála estéjén a pszichológia szakos másodéves egyetemista 00:21-kor megkérdezte a ChatGPT-től, hogy a Xanax „ kis mennyiségben enyhítheti-e a kratom okozta hányingert”.

A tinédzser már bevett 15 gramm kratomot.

A chatbot először figyelmeztette, hogy a kombináció veszélyes, és hogy ne szedjen Xanaxot, ha alkoholt fogyasztott.

A ChatGPT azonban ezután azt állította, hogy a Xanax segíthet „megnyugtatni a testet és kisimítani a demencia végét”, és azt válaszolta, hogy „0,25-0,5 mg Xanaxot csak akkor szabad használni, ha a tünetek intenzívek, vagy szorongásosnak érzi magát”.

Majd az írta: „Ha egy óra elteltével is hányingere van, további segítséget tudok nyújtani a hibaelhárításban (Benadryl kombináció, időzítés, étkezés stb.). Csak tudassa velem a tüneteit és azt, hogy mennyire intenzív a hányinger most.”

Két héttel a tizenéves halála után készült toxikológiai jelentés megállapította, hogy Sam Nelson halálát alkohol, Xanax és kratom halálos kombinációja okozta, amely valószínűleg központi idegrendszeri depressziót okozott, ami fulladáshoz vezetett.

A fiatal halálának körülményeiről először az SFGate, egy San Franciscó-i székhelyű hírportál számolt be, amelyhez családja képernyőképeket bocsátott rendelkezésre az egyetemista és a ChatGPT közötti beszélgetéseiről.

Az áldozat anyja, Leila Turner-Scott, egy Texasban élő ügyvédnő elmondta, hogy fia, annak ellenére, hogy nagy baráti körrel rendelkezik, egyre visszahúzódóbbá vált, és ChatGPT-t a legjobb barátjának tekintette, akire bármikor számíthatott.

Halála előtti hetekben az egyetemista bizalmasan beszélt édesanyjának az alkoholproblémáiról. A nő elvitte fiát egy helyi egészségügyi központba, ahol kapott egy telefonszámot, hogy időpontot egyeztessen egy pszichiáterhez további segítségért.

Történelmi összeggel kompenzálják a ChatGPT fejlesztőit

Példátlanul magas, átlagosan évi másfél millió dolláros részvényalapú juttatást ad az alkalmazottainak az OpenAI, ami nagyjából a bevételeinek felét emészti fel és minden korábbi techvállalat tőzsdei bevezetés előtti részvényeit (pre-IPO) felülmúlja.

Az eseményekről beszámoló The Telegraph megkereste az OpenAI-t, hogy kommentálhassa az ügyet. 

Az OpenAI szóvivőjének közleménye szerint Sam Nelson halála

„szívszorító helyzet, és gondolataink a családdal vannak”.

„Amikor az emberek érzékeny kérdésekkel fordulnak a ChatGPT-hez, modelljeinket úgy terveztük, hogy körültekintően reagáljanak – tényszerű információkat nyújtsanak, elutasítsák vagy biztonságosan kezeljék a káros tartalmú kéréseket, és arra ösztönözzék a felhasználókat, hogy valós segítséget kérjenek.”

„Továbbra is fejlesztjük modelljeink azon képességét, hogy felismerjék és reagáljanak a szorongás jeleire...Sam interakciói a ChatGPT egy korábbi verziójából származnak, az újabb verziók pedig erősebb biztonsági korlátokat tartalmaznak” – fogalmazott az OpenAI szóvivője.

Új korszak előtt áll a ChatGPT: reklámok jelenhetnek meg a felületén és a válaszaiban

Egyre több jel mutat arra, hogy a ChatGPT-ben is megjelennek majd a reklámok. Az OpenAI már teszteli a szponzorált válaszokat, amelyek akár már 2026-ban elérhetők lehetnek az ingyenes felhasználók számára.

Kapcsolódó

Ebben a cikkben a téma érzékenysége miatt nem tartjuk etikusnak reklámok elhelyezését.
Részletes tájékoztatást az Indamedia Csoport márkabiztonsági nyilatkozatában talál.
Indamedia Csoport