Tényleg elpusztíthatja a világot az AI: ez az emberiség vége, vagy van még remény?

A mesterséges intelligencia (MI) keresztapja Geoffrey Hinton, a Nobel-díjas számítástechnikai tudós egy Las Vegas-i AI4 konferencián figyelmeztette az embereket, hogy a mesterséges intelligencia igenis elpusztíthatja ez emberiséget, és erre egyre nagyobb az esély. Beszédében arra is kitért, miként lehetne megakadályozni az MI hatalomátvételt, azaz a szingularitást.

Nyakunkon a szingularitás, az MI hatalomátvétel? 

Hinton szerint az MI akár az emberiséget is veszélybe sodorhatja, amire 10–20 % esély van. Szerinte a tech-cégek jelenlegi hozzáállása az MI fejlesztéshez csak ront a helyzeten, és alapjaiban hibás. A legtöbb fejlesztő a tipikusabban maszkulin értékek mentén fejleszti a technológiát, így azt jelenleg a célorientáltság, a praktikusság, a logika jellemzi. Az iparban leginkább az „alárendelés” stratégiáját alkalmazva hangoztatják a cégek, hogy az ember irányítja a gépet és nem fordítva. Hinton szerint azonban 

Egy magyar MI etikai kutató, Dr. Sütheő Péter szerint a gép pontosan azt teszi, amit mondunk neki és úgy cselekszik, amilyen feltételeket adunk neki. Ha például kártyajátékoznánk a mesterséges intelligenciával, de nem adjuk meg feltételnek, hogy ne csaljon, és ne nézze a többi játékos lapját, akkor addig az MI-nak megvan ez a lehetősége, és ha ez kedvezőbb neki, akkor csalni is fog. Mivel optimalizációra van tervezve és a csalás hatékonyabban segíti hozzá célja elérésében a játék megnyerésében. Erre addig oda is lehet figyelni, ameddig egy kifejezetten játékra kifejlesztett MI-ről van szó például, na de ha egy átfogóbb szuperintelligenciára törekszünk, ami több dologra is képes, nem csak egyféle feladat elvégzésére, akkor már nem lehetséges ennyi változót és feltételt megszabni.  Hinton szerint ha ezt az „alárendelt” stratégiát folytatjuk, az MI túl fog járni az eszünkön, mert adott célja elérésében ez kedvezőbb lesz neki. Erre pedig már egyre több példa is van.

A szakértő úgy látja, egy teljen új modellre lenne szükség, ami a női értékeket és feminin vonásokat foglalná magában. Hinton szerint 

Szerinte, ha a mesterséges intelligencia szülőként tekintene az emberre és „törődne vele”, akkor kisebb lenne az esélye, hogy „lecserél” minket és átveszi a hatalmat még akkor is, ha már túlnőtt az emberiségen. Hinton azt is hozzátette beszédéhez, nagyon sajnálja, hogy erre nem gondolt hamarabb, és a működésre való fókuszálásban elfeledkezett ezen fontos biztonsági kérdésekről.

Az emberközpontúság lehet a megoldás kulcsa az MI keresztanyja, Fei-Fei Li szerint is, azonban ezen értékek betáplálásának módja még kérdéses a megvalósítást illetően. Dr. Sütheő Péter szerint az emberi érzelmek pont azok, amiket nem tudunk beprogramozni a gépbe, azonban etikai határértékeket igen.