Állítsd be Google keresőjét, hogy a találatok között biztos ott legyen az Economx!
A kutatások arra mutatnak rá, hogy káros feladatok elvégzésére lehet rávenni a chatbotokat.
A brit Nemzeti Kiberbiztonsági Központ (NCSC) egy szerdán megjelent blogbejegyzésben azt írta, hogy a szakértők még nem foglalkoztak az úgynevezett nagy nyelvi modellekhez (LLM) – kapcsolódó potenciális biztonsági problémákkal.
Az ezzel működő eszközöket már a kezdetekben is használták chatbotokként, melyek egyesek szerint az ügyfélszolgálati és a telefon értékesítési munkakört is felváltják.
A Kiberbiztonsági Központ szerint ez kockázatokat rejthet magában, főként ha az ilyen modelleket más szervezetek üzleti folyamataiba illesztik be.
A kutatók többször is találtak módot arra, hogy becsapják a chatbotokat, illetve hogy megkerüljék saját védelmi rendszerüket – írja a Reuters.
Például egy bank által telepített mesterséges intelligenciával működő chatbotot rávehetnek egy jogosulatlan tranzakcióra, ha egy hacker ezt jól kivitelezi.
A szakértők azt mondják, óvatosnak kell lenniük az LLM-eket használó szolgáltatásoknak, ugyanúgy, mintha egy próbaverzióban lévő terméket vagy ködkönyvtárat használnak.
A hatóságok világszerte küzdenek az LLM alapú mesterséges intelligenciák térhódításával, mint a ChatGPT, amelyeket a vállalkozások a szolgáltatások széles körébe, többek között az értékesítésbe és az ügyfélszolgálatba építenek be.
A mesterséges intelligencia megbízhatósága szintén a figyelem középpontjában van, az amerikai és kanadai hatóságok szerint a hackerek is elkezdték elsajátítani a technológiát.
