A ChatGPT-nél is megjelent már az ügynök-mód, ami képes a felhasználók helyett önállóan intézni különféle feladatokat. Most viszont a Radware biztonsági szakértői egy olyan biztonsági rést fedeztek fel a rendszerben, melyen keresztül a támadók a felhasználó tudta nélkül lophattak el érzékeny adatokat a Gmail-fiókokból. A Shadow Leak nevű rés miatt a támadók teljesen titokban férhettek hozzá bizalmas információkhoz.

Az ügynök-mód lényege, hogy emberi beavatkozás nélkül, önállóan tudnak böngészni, kattintani linkekre, vagy leveleket kezelni. A fejlesztők szerint ezzel rengeteg időt lehet megspórolni, de cserébe hozzáférést kell adni nekik személyes e-mail-fiókunkhoz, naptárunkhoz, dokumentumainkhoz is.

A Radware csapata egy prompt-befecskendezés nevű módszerrel hozta működésbe a támadást: egy kártékony e-mailt küldtek az ügynök által elérhető Gmail-fiókba, és ebben rejtették el az utasításaikat. Amikor a ChatGPT-ügynök ezt az üzenetet feldolgozta, automatikusan személyes adatokat keresett, például HR-es leveleket, és elküldte ezeket a támadóknak, úgy, hogy a felhasználó ebből semmit sem érzékelt.

A kutatás pozitívuma, hogy a szakértőknek sem volt egyszerű átverni a rendszert, több próbálkozásuk kudarcba fulladt.

Külön érdekesség, hogy a Shadow Leak épp az OpenAI felhőalapú infrastruktúráján keresztül futott, ezért a hagyományos kiberbiztonsági rendszerek nem is jelezték a támadást.

A Radware felhívta a figyelmet arra, hogy minden, a ChatGPT-hez csatolt alkalmazás (például Outlook, GitHub, Google Drive, Dropbox) sebezhető lehet hasonló módon, így akár üzleti titkok, szerződések is illetéktelen kezekbe kerülhetnek.

Az OpenAI időközben kijavította a hibát, de nem kizárt, hogy más, rosszindulatú felek a jövőben is találhatnak hasonló rést a pajzson - írja a HVG.

Kapcsolódó