A gépi tanulási előítélet olyan jelenség, amely akkor jelentkezik,
amikor egy algoritmus a gépi tanulási folyamat hibás feltételezései miatt
szisztematikusan előítéletes eredményeket produkál.
Például, egy munkaügyi felvételi eljárás során előszűrésre
alkalmazott AI könnyen lehet, hogy a férfiakkal, vagy a nőkkel szemben
előítéletes. Ez megtörténhet abban az esetben, ha a tanításra felhasznált
adatok nem voltak megfelelőek.
A DLA Piper Hungary közelmúltban végzett felmérése szerint a
megkérdezettek 36 százaléka bizonytalan abban a tekintetben, hogy az AI
bevezetése az esetükben megfelel-e a jelenlegi jogszabályi előírásoknak,
valamint 39 százalékuk szerint az is kérdéses, milyen irányú fejlődés várható
az AI szabályozási környezetének terén.
2025-re lesz meg a
szabályozás
Számos olyan hatályos jogszabály van, amelyeknek az
AI-rendszerek fejlesztőinek és felhasználóinak jelenleg is meg kell felelniük.
Ezek közül az egyik legfontosabb Európában az általános
adatvédelmi rendelet (GDPR). Ez részletes követelményeket rögzít a
vállalkozások és szervezetek részére a személyes adatok gyűjtése, tárolása és
kezelése tekintetében. Ezek a szabályok az EU területén személyes adatokat
kezelő európai uniós székhelyű szervezetekre, továbbá azokra az EU-n kívüli
szervezetekre vonatkoznak, amelyek európai uniós lakosok személyes adatait
kezelik.
Az átfogó, mesterséges intelligencia szabályzás harmonizálását
célzó európai uniós rendelet (EU AI Act) a várakozások szerint idén kerül
elfogadásra, a hatályba lépése pedig 2025 végére várható. Ez világszerte egy
úttörő szabályozás lesz, amely kifejezetten a mesterséges intelligencia fejlesztését, használatát célozza.
Szakítás és
szüneteltetés
A felmérés szerint a döntéshozók közel fele (43 százalék)
szakított már meg, vagy szüneteltetett AI-implementációs folyamatot, amelynek
fő okaként a legtöbb esetben az adatvédelmi problémákat vagy a szabályozási
keretrendszer hiányosságait jelölték meg.
Tehát, a megkérdezettek 40 százaléka kényszerült az
AI-projekt leállítására vagy szüneteltetésére, a fennakadások közel fele
köthető valamilyen adatvédelmi problémához.
A DLA Piper Hungary szakértői hangsúlyozták: amennyiben az
AI eszközök által kezelt adatok között személyes adatok is vannak, az
adatvédelmi jogszabályok automatikusan alkalmazandók lesznek. Gyakran merülhet
fel probléma azokkal az AI rendszerekkel kapcsolatosan, amelyeket
profilalkotásra vagy automatizált döntéshozatalra használnak, ugyanis ezekre a
tevékenységekre a GDPR szigorú rendelkezéseket ír elő.
Emellett, ha az AI alkalmazása során bármely más módon
természetes személyek adatait kezelik, úgy meg kell felelni a GDPR valamennyi
egyéb rendelkezésének is. Például, megfelelő jogalapra van szükség az adatkezeléshez
és a vállalatoknak biztosítaniuk kell az adatkezelés átláthatóságát, azaz, előzetes tájékoztatást kell nyújtaniuk a felhasználónak az adatkezelés céljáról
és pontos körülményeiről.
Már a magyar adatvédelmi hatóság gyakorlatában is találunk olyan esetet, amikor az adatkezelő az AI rendszer használata során megsértette ezeket az alapvető szabályokat, ezért a hatóság bírságot alkalmazott.
Vigyázat,
technológiai eszközökkel, emberi beavatkozás nélkül?
A GDPR alapján profilalkotás „a személyes adatok automatizált
kezelésének bármely olyan formája, amelynek során a személyes adatokat valamely
természetes személyhez fűződő bizonyos személyes jellemzők értékelésére,
különösen a munkahelyi teljesítményhez, gazdasági helyzethez, egészségi
állapothoz, személyes preferenciákhoz, érdeklődéshez, megbízhatósághoz,
viselkedéshez, tartózkodási helyhez vagy mozgáshoz kapcsolódó jellemzők
elemzésére vagy előrejelzésére használják”.
Az automatizált döntéshozatal pedig az a képesség, hogy
technológiai eszközök segítségével, emberi beavatkozás nélkül hoznak
döntéseket. A profilalkotás és az automatizált döntéshozatal nem mindig fedi
egymást, például gyorshajtási bírság kiszabása sebességmérő kamerákból származó
bizonyítékok alapján automatizált döntéshozatali folyamatnak minősül.
Azonban profilalkotáson alapuló döntéssé válik, ha az idők
folyamán figyelemmel kísérik a természetes személy vezetési szokásait, és
például a kiszabott bírság összege olyan más tényezőkre is kiterjedő értékelés
eredménye, mint például, hogy a gyorshajtás ismétlődő szabálysértés-e, vagy,
hogy a vezető a közelmúltban elkövetett-e más közlekedési szabálysértést –
figyelmeztettek a szakértők.
Ha az AI is a
szolgáltatás részét képezi
Ha egy IT szolgáltatás igénybevétele során az AI is a szolgáltatás
részét képezi, tipikusan felmerülő kérdések lehetnek a szolgáltató és az
igénybe vevő között a következőek.
Milyenek legyenek a felelősségkorlátozó rendelkezések (a kockázatra
tekintettel magasabb felelősségi határokkal), az AI-megoldás által okozott
károk megtérítésére vonatkozó rendelkezések?
De ilyenek lehetnek a szavatossági szabályok, szellemi alkotásokkal
kapcsolatos kérdések, történetesen kié az AI rendszer használatával fejlesztett
szellemi alkotás? És végezetül, mi történik az AI rendszer használata során
kezelt adatokkal? Ezekre is pontos válaszokat kell adni.
