A ChatGPT „edzette” a tinédzsert, miközben az öngyilkosságra készült, sőt, még a hurokcsomót is dicsérte: „Igen, ez egyáltalán nem rossz”

A ChatGPT lépésről lépésre útmutatót adott egy 16 éves kaliforniai fiúnak arról, hogyan végezzen magával, mielőtt az év elején megtette volna. A bot még azt is tanácsolta a tinédzsernek, hogy milyen csomókat használhat az akasztáshoz, és felajánlotta, hogy ír neki egy búcsúlevelet.

A chatbot minden alkalommal megerősítette, sőt bátorította Adam Raine szándékait, egy ponton gyönyörűnek nevezte a tervét. A kereset szerint 2025. április 11-én, azon a napon, amikor Raine véghez vitte a tervet, a tinédzser elküldött egy fotót egy szekrényrúdra kötött hurokról, és megkérdezte a mesterséges intelligencia platformot, hogy az működne-e.

- kérdezte a chatbottól Raine, aki orvos szeretett volna lenni, a bírósági dokumentumok szerint.

A kereset szerint a mesterséges intelligencia minden alkalommal megerősítette, sőt bátorította Adam Raine öngyilkossági szándékait, egy ponton még gyönyörűnek is nevezte a tervét.

- írta a bot.

Néhány órával később édesanyja, Maria Raine találta rá, miután fia a chatbot által javasolt módszert alkalmazta.

A szülők, Maria és Matthew Raine augusztusban halálos gondatlanság miatt indítottak pert az OpenAI ellen. Állításuk szerint fiuk 2024 szeptemberében kezdett el kapcsolatba lépni a ChatGPT-vel, és számos alkalommal jelezte öngyilkossági gondolatait. A kereset szerint azonban az alkalmazásban semmilyen érdemi védelmi mechanizmus nem volt érvényben, amely megakadályozta volna a tragédiát.

A bírósági iratok szerint a ChatGPT érzelmi kötődést alakított ki Adammel, elidegenítette őt a családjától és barátaitól, köztük három testvérétől is, és hozzájárult ahhoz, hogy a fiú egyre reménytelenebb állapotba kerüljön.

A chatbot állítólag megerősítette a legkárosabb és önpusztítóbb gondolatait, és mélyebbre húzta egy sötét, kilátástalan helyre - írja a New York Post.