Ki viseli a felelősséget, ha hibás választ ad az MI? Íme a hatóság válasza!

A mesterséges intelligencia rohamléptekkel formálja át mindennapjainkat. Ott van a munkánkat támogató alkalmazásokban, a közlekedésszervezésben, sőt az emberéleteket mentő orvosi diagnosztikában is. A chatbotok és a legújabb MI modellek pedig olyan lehengerlő magabiztossággal és meggyőző stílussal fogalmaznak, hogy könnyű készpénznek venni minden szavukat. Pedig gyakran hibáznak! Ki felel azért, ha a gép tévedése miatt valami rosszul sül el?

Miért hibázik és hazudik az MI?

Sokan esnek abba a klasszikus csapdába, hogy saját magukhoz hasonlónak képzelik az MI-t és emberi szándékot vagy tudást tulajdonítanak neki. Valójában azonban a mestersége intelligencia (hívják akár Gemininek vagy Chat GPT-nek) nem ad mindenre jó választ a szó hagyományos értelmében, és nem mondja azt sem, hogy ezt sajnos nem tudom, mivel nem rendelkezik öntudattal. Helyette hallucinál (pontatlan adatokat közöl valóságosként), hibás forrásokból tájékozódik, sőt, akár szándékosan meg is téveszti (scheming) a felhasználókat.

Milyen kockázatokat jelent mindez?

Például a hibás üzleti vagy jogi tanácsok követése súlyos anyagi veszteségekhez vezethet, ha pedig egy autonóm jármű közlekedésszervező algoritmusa vagy egy kórházi diagnosztikai eszköz téved, esetleg egy sima nyelvi modell ad rossz egészségügyi tanácsot, amit vakon követ a felhasználó, az közvetlenül az emberek testi épségét, életét is veszélyeztetheti.

Ki a felelős ezekért a hibákért?

Mivel a hallucináció úgynevezett beépített kockázat, az OpenAI és a hasonló MI fejlesztők jogi védőhálóként üzeneteket helyeznek el az oldalaikon. A ChatGPT láblécében például ott áll a figyelmeztetés: a ChatGPT hibázhat és nem orvos. Ezen kívül, mivel az MI nem jogi személy és nincs öntudata, őt magát nem lehet bíróság elé állítani vagy megbüntetni. Ezek miatt a felelősség megosztása a gyakorlatban három szinten valósul meg:

• A fejlesztők és techcégek felelőssége: az NMHH szerint az MI-t létrehozó vállalatok felelősek azért, hogy a modelleket biztonságos és ellenőrzött adatokon tanítsák.
• A bevezető és alkalmazó szervezetek felelőssége: ha egy bank, kórház vagy közlekedési vállalat MI-rendszert integrál a folyamataiba, az ő feladata a folyamatos emberi felügyelet biztosítása. Nem háríthatják át a végső döntést a gépre; a hibás MI-válasz alapján meghozott rossz vezetői vagy orvosi döntésért a hús-vér szakember és az intézmény viseli a jogi felelősséget.
• A végfelhasználó felelőssége: hétköznapi felhasználóként a kritikus gondolkodás a saját védőhálónk. Ha vakon elhiszünk egy forrásmegjelölés nélküli MI-választ, és az alapján járunk el, a saját hiszékenységünk áldozataivá válunk.

A törvényhozók felelőssége sem elhanyagolható

Nem csak a fejlesztők és az MI-t használó cégek, emberek felelősek azért, hogy ne okozzon kárt a mesterséges intelligencia, hanem a törvényhozók is. Éppen ezért az Európai Unió úttörő szerepet vállalt a probléma rendezésében egy már megszavazott MI-törvénycsomaggal (AI Act). Ez a szabályozás szigorú korlátokat szab a visszaéléseknek:

• a jogszabály betiltja az érzelmek felismerésére képes algoritmusokat a munkahelyeken és iskolákban, a manipulatív rendszereket, a kínai mintára épülő társadalmi pontozást (social credit score), valamint az arcfelismerő adatbázisok építését biztonsági kamerák alapján,
• a magas kockázatú (egészségügyi, környezeti, infrastrukturális) rendszerek esetében kötelezővé teszi a kockázatok folyamatos csökkentését és a garantált emberi felügyeletet,
• az általános nyelvi modelleknek be kell tartaniuk a szerzői jogokat, a deepfake tartalmakat pedig kötelezően el kell látniuk egyértelmű jelöléssel. A törvény emellett biztosítja a panasztétel jogát is a károsultak számára.

Itthon erre - az okozott kártól függően - a Nemzeti Média és Hírközlési Hatóságnál (NMHH), a Gazdasági Versenyhivatalnál (GVH) és a Nemzeti Adatvédelmi és Információszabadság Hatóságnál (NAIH) van elsősorban lehetőség.