Állítsd be Google keresőjét, hogy a találatok között biztos ott legyen az Economx!
Az amerikai technológiai szektor egyik legnagyobb meglepetését okozta, hogy a Trump-adminisztráció exportkorlátozás alá vonta az Anthropic két legújabb mesterséges intelligencia-modelljét, a Fable-t és a Mythost.
A döntés nyomán a 900 milliárd dollárra értékelt vállalat kénytelen volt felfüggeszteni a rendszerek működését valamennyi felhasználó számára.
A Financial Times információi szerint a Kereskedelmi Minisztérium mindössze 90 percet adott a cégnek a rendelkezés végrehajtására, miközben előzetesen nem ismertette részletesen, milyen aggályok vezettek a szigorú intézkedéshez. Az Anthropic vezetése hétvégén már Washingtonba küldte technikai szakembereit, hogy megpróbálják rendezni a kialakult helyzetet.
A háttérben egy olyan sebezhetőség állhat, amely lehetővé teszi az AI-modellek biztonsági korlátainak megkerülését. Az Amazon kutatói állítólag azt találták, hogy a Fable bizonyos körülmények között információkat adhat ki szoftveres sérülékenységekről. A problémát először az Anthropicnak jelezték, majd az Amazon vezérigazgatója, Andy Jassy is egyeztetett amerikai tisztviselőkkel. Az e-kereskedelmi óriás összesen 13 milliárd dollárt fektetett a vállalatba.
Az Anthropic ugyanakkor vitatja, hogy a feltárt képesség egyedi lenne. A cég szerint hasonló úgynevezett „jailbreak” technikák más vezető rendszereknél, köztük az OpenAI modelljeinél is működhetnek. Biztonsági szakértők szerint ráadásul ezeknek a hibáknak a teljes megszüntetése gyakorlatilag lehetetlen: hetekig tartó fejlesztéssel is legfeljebb csökkenthető a kockázat, de újabb megkerülési módszerek bármikor megjelenhetnek.
Az ügy túlmutat egyetlen vállalaton. Az iparág szereplői szerint most dőlhet el, hogyan kívánja Washington szabályozni az egyre fejlettebb mesterséges intelligenciát.
Sokan attól tartanak, hogy az exportkorlátozások alkalmazása modellbiztonsági kérdések kezelésére kiszámíthatatlanná teszi a legmodernebb rendszerek piacra vezetését.
A helyzetet tovább árnyalja, hogy az Anthropic vezérigazgatója, Dario Amodei korábban éppen az AI veszélyeire figyelmeztető technológiai vezetők egyik legismertebb alakja volt. A vállalat és az amerikai védelmi vezetés között ráadásul már korábban is feszült volt a viszony: vita alakult ki többek között a megfigyelési célú felhasználásról és az autonóm fegyverrendszerekről.
Bár a Fehér Ház nem kommentálta az ügyet, amerikai tisztviselők szerint a patthelyzet feloldható lehet, ha sikerül javítani a feltárt sebezhetőséget. Több kiberbiztonsági szakértő azonban úgy véli, a kormányzat túlreagálta a helyzetet, hiszen a kifogásolt képességek ma már szinte valamennyi élvonalbeli mesterségesintelligencia-modell esetében megfigyelhetők.