„Kérlek, halj meg!" – Ezt üzente a mesterséges intelligencia egy embernek

A Redditen ütötte fel a fejét egy poszt, melyben egy felhasználó mesélte el, hogy a testvére a házifeladat megoldásához kérte a Google Gemini segítségét. A mesterséges intelligencia alapú chat furcsán reagált a kérdésekre, ami szemet szúrt a felhasználónak. 

Az ember halálát kívánta a mesterséges intelligencia

A házifeladat az idősek jólétével és kihívásaival volt kapcsolatos, majd körülbelül húsz kérdés után odalyukadt ki az AI, hogy elküldte meghalni a felhasználót. De ez még nem minden, mielőtt a halálát kívánta volna az illetőnek durván sértegetni kezdte a felhasználót.

– írta a megdöbbentő sorokat a chatbot válaszolva egy egészen másról szóló, ártatlan kérdésre. A beszélgetést le is mentették a fiatalok és posztolták Redditre. 

– írta a posztoló.

Válaszolt a Google 

A Reddit poszt hatalmas figyelmet kapott, még a Google is reagált rá kommentben.

– Komolyan vesszük ezeket a kérdéseket. A nagy nyelvi modellek néha értelmetlen válaszokkal válaszolhatnak, és ez egy példa erre. Ez a válasz megsértette irányelveinket, és lépéseket tettünk a hasonló kimenetek megelőzése érdekében – írta a cég, ám a legtöbb felhasználó ezt nem érzi kielégítő magyarázatnak, szerintük ugyanis magától egy AI sem képes így válaszolni. A teljes beszélgetés a mesterséges intelligenciával ezen a linken érhető el.