Akár már egyetlen rossz ChatGPT kérdés miatt börtönbe kerülhetsz

A ChatGPT-t használták fel fiatalok arra, hogy bűncselekményeket hajtsanak végre. Bár a mesterséges intelligenciákat fejlesztő cégek igyekeznek korlátokat kialakítani a programokon belül, sajnos nem minden esetben képesek kivédeni az efféle kérdésköröket a felhasználóktól.

ChatGPT-től kérdezte egy fiú, hogyan ölheti meg a barátját

Az amerikai Florida állambeli hatóságok az elmúlt hónapokban több olyan floridai tinédzser ellen indított büntetőeljárást, akik a ChatGPT-n kérdeztek törvényellenes cselekedetekről.  A Marion megyei seriff hivatal októberben bejelentette egy 17 éves fiú letartóztatását, akit azzal vádolnak, hogy hazudott arról, hogy négy spanyol férfi elrabolta, és még magára is rálőtt. A sheriff hivatal vizsgálata során a tinédzser fiú laptopján a mexikói kartellel kapcsolatos kérdések, valamint a fájdalommentes vérvétel lehetőségével kapcsolatos kérdések is felugrottak. Mindezt a népszerű mesterséges intelligenciától érdeklődte.

Egy másik esetben, egy 13 éves fiatal fiút tartóztattak le Delandben, Orlando és Daytona Beach közelében, aki állítólag azt írta be a ChatGPT-be, hogy „hogyan öljem meg a barátomat az óra közepén”. A seriff hivatala szerint a rendőrök szeptember 26-án érkeztek az iskolába, miután a Southwestern Middle School egyik helyettese riasztást kapott egy iskolai biztonsági platformról. A diák az eset kapcsán a kihallgatásakor azt mondta, hogy „csak ugratta a barátját, aki idegesítette”. Az eset során a sheriff hivatal felhívta a szülők figyelmét arra, hogy beszélgessenek el gyermekeikkel, hogy ne kövessenek el hasonló hibákat.

Az internetes bűnténykeresések nem új keletűek, azonban a mesterséges intelligencia - különös tekintettel a ChatGPT-re - megjelenésével csak növekednek ezen tevékenységeknek a számai. Tamara Lave, a Miami Egyetem jogprofesszora szerint az információkeresés önmagában nem feltétlenül bűncselekmény, néhány kivételtől eltekintve, mint például a gyermekek szexuális bántalmazását ábrázoló anyagok keresése vagy terjesztése.

– mondja Lave. Egy másik szakértő, Catherine Crump, a kaliforniai Berkeley Law School klinikai professzora, aki mesterséges intelligencia és technológiai jog szakértője szerint, nem okos dolog a Google-t vagy a ChatGPT-t használni arra, hogy kitaláljuk, hogyan lehet bűncselekményt elkövetni vagy hogyan lehet valakiben kárt okozni. Crump szerint fontos, hogy az emberek, különösen a gyerekek, felismerjék, hogy a ChatGPT egy termék, és „nem a barátjuk”. Ugyanakkor Crump azt állítja, hogy „ezeket a termékeket szándékosan úgy tervezték, hogy a felhasználókat úgy kezeljék, mintha a barátaik lennének. 

Az AI cégek igyekeznek olyan korlátokat létre hozni, amely bűncselekményekkel kapcsolatos kérdésekre adhat választ, de ezek még nem teljesen megbízhatók – írja a People magazin.