Az elmúlt években elterjedtek a hírességek AI-alapú deepfake-jeit használó csalások, amelyek a Meta számára egyre nagyobb kihívást jelentenek. Az ügyben most a Felügyeleti Tanács is megszólalt, és úgy tűnik, hogy elismeri a kritikusok véleményét. Közölték ugyanis, hogy a cég valóban nem tesz eleget azért, hogy a saját szabályait érvényesíteni tudja. Emellett azt is közölték, valójában túlságosan megkönnyíti a vállalat a csalók számára, hogy megússzák tettüket.
A következtetést egy olyan ügy eredményeként vonták le, amely egy Plinko nevű online kaszinójáték reklámjával volt kapcsolatos. A hirdetésben egy visszavonult brazil futballista, Ronald Nazário AI-manipulált videója szerepelt.
A testület szerint a reklám egyértelműen hamis volt, ugyanakkor a Meta azután sem távolította el azt a platformjairól, hogy több mint 50 alkalommal jelentették be csalásként – írja az Engadget.
Miután a hirdetést eltávolították, a mögötte álló Facebook-bejegyzést nem, egészen amíg a felügyelő testület nem vállalta az ügy felülvizsgálatát. A hirdetést több mint 600 ezer alkalommal tekintették meg.
A testület szerint az eset rávilágít a Meta alapvető hibáira a hírességeket és közszereplőket érintő bejelentett csalások tartalom-moderálásának kezelését illetően. Ezért megfogalmaztak egy ajánlást, amelyben sürgették a vállalatok, hogy frissítse belső irányelveit, amelyben felhatalmazza a tartalomellenőröket az ilyen jellegű csalások felismerésére és képezze őket az AI-manipulált tartalom jelzőire.
A Meta szóvivője később egy nyilatkozatban úgy reagált a testület állításaira, hogy azok pontatlan. Rámutatott továbbá egy tesztre, amely arcfelismerő technológiát használ a „celebrity-bait” (magyarosan: celebcsali) típusú csalások elleni küzdelemre.
Ha többre kíváncsi, itt olvashat tovább.
