Egyre több böngésző használ olyan mesterséges intelligencia alapú funkciókat, amelyek képesek a felhasználó nevében jegyet foglalni vagy akár vásárlást intézni. Ezek a kényelmi funkciók azonban újabb támadási felületet teremtenek, mivel a kiberbűnözők ezeken keresztül akár pénzt vagy adatokat is megszerezhetnek. A Google most részletesen ismertette, hogyan igyekszik megelőzni az MI-ügynökök rosszindulatú kihasználását a Chrome-ban.

A vállalat több modell együttműködésére építi a védelmet.

Ezek közül az egyik a Geminire támaszkodó User Alignment Critic, amely a tervezőmodell által létrehozott műveletelemeket vizsgálja.

Ha a rendszer úgy ítéli meg, hogy az adott lépések nem szolgálják a felhasználó érdekét, akkor visszajelzést küld, és újratervezésre kéri a modellt.

A Google hangsúlyozta, hogy a kritikus modell csak metaadatokat lát, a tényleges webes tartalmakhoz nem fér hozzá.

A Chrome emellett korlátozza, hogy az MI milyen webhelyeket érhet el. Az ügynökök csak jóváhagyott, megbízható oldalakon működhetnek, és ott is kizárólag bizonyos típusú tartalmakat, például bevásárlólistákat, olvashatnak, miközben a rendszer blokkolja a banner hirdetéseket. A kattintható felületeket és az adatbeviteli mezőket is szigorú szabályokhoz köti a Google.

Egy másik modell az URL-eket elemzi annak érdekében, hogy megakadályozza az MI-t abban, hogy gyanús vagy csaló oldalakra navigáljon. Így csökkentik annak esélyét, hogy az ügynök megtévesztő linket nyisson meg.

A felhasználói biztonságot erősíti az is, hogy a rendszer figyelmeztetést küld, ha érzékeny adatok feldolgozására kerül sor. Ugyancsak jelzi, ha üzenetküldés vagy jelszó megadása válik szükségessé, utóbbihoz az MI egyáltalán nem fér hozzá - írja a HVG a Tech Crunch alapján.

Kapcsolódó