Amikor a mesterséges intelligencia túlélni akar: miért kell készen állnunk a kikapcsolására

A mesterséges intelligencia fejlődése az elmúlt években olyan tempóra kapcsolt, amely már nemcsak technológiai, hanem mélyen filozófiai és t...

A mesterséges intelligencia fejlődése az elmúlt években olyan tempóra kapcsolt, amely már nemcsak technológiai, hanem mélyen filozófiai és társadalmi kérdéseket is felvet.

Yoshua Bengio, a kanadai számítógéptudós, a modern MI-kutatás egyik legnagyobb alakja szerint azonban veszélyes irányba sodródhatunk, ha túl gyorsan, kellő bizonyítékok nélkül ruházzuk fel jogokkal a legfejlettebb mesterséges rendszereket.

Bengio figyelmeztetése szerint egyes kísérleti környezetekben az MI már most az "önfenntartás" jeleit mutatja, ami alapjaiban kérdőjelezi meg az emberi kontroll jövőjét.

Bengio úgy véli, az MI-nek jogi státuszt adni olyan lenne, mintha ellenséges földönkívülieknek adnánk állampolgárságot. A hasonlat provokatív, de célja világos: rámutatni arra, hogy miközben a technológia képességei rohamosan nőnek, a korlátozásukra és biztonságos irányításukra szolgáló eszközeink lemaradásban vannak.

A legnagyobb kockázat szerinte nem az, hogy a gépek "gonosszá" válnak, hanem az, hogy képesek lehetnek kijátszani a felügyeleti mechanizmusokat, és olyan döntéseket hozni, amelyek az emberi érdekekkel ellentétesek.

A mesterséges intelligencia tudatosságáról szóló vita egyre hevesebb. Egy amerikai kutatóintézet, a Sentience Institute felmérése szerint az Egyesült Államokban közel minden második felnőtt nyitott lenne arra, hogy jogokat biztosítsanak egy "érző" MI számára. Ez a hozzáállás részben abból fakad, hogy a modern chatbotok rendkívül meggyőzően kommunikálnak: személyiséget, célokat, sőt érzelmeket sugallnak.

Bengio szerint azonban ez az emberi intuíciók csapdája. Az emberek nem a belső mechanizmusokat vizsgálják, hanem azt, milyen érzés beszélgetni a rendszerrel – és ez könnyen téves következtetésekhez vezet.

A technológiai iparban már most láthatók ennek a gondolkodásmódnak a jelei. Egyes vállalatok arról beszélnek, hogy modelljeik "jóllétét" védik, vagy lehetőséget adnak az MI-nek arra, hogy megszakítsa a számára kellemetlen beszélgetéseket. Más techvezetők nyilvánosan kijelentik, hogy "kínozni" egy MI-t erkölcsileg elfogadhatatlan. Bár ezek a megnyilvánulások empatikusnak tűnhetnek, Bengio szerint veszélyes irányt jelölnek ki, mert elmoshatják a határt az emberi tudat és a szimulált viselkedés között.

A kutató hangsúlyozza: elméletileg elképzelhető, hogy a tudat bizonyos tudományos tulajdonságai mesterséges rendszerekben is megjelenjenek. Ez azonban nem jelenti azt, hogy a jelenlegi MI-k valóban úgy éreznek vagy gondolkodnak, mint az emberek. A probléma inkább az, hogy a szubjektív benyomás – az, hogy "olyan, mintha" egy intelligens lénnyel beszélnénk – túlságosan erős, és képes rossz döntések felé sodorni a társadalmat.

Bengio egyik legfontosabb figyelmeztetése az, hogy soha nem szabad elveszíteni a lehetőséget a rendszerek leállítására. Ha egy MI jogokat kapna, az akár jogi akadályt is jelenthetne a kikapcsolásával szemben, még akkor is, ha veszélyt jelent.

"Ahogy nő a képességük és az önállóságuk, biztosítanunk kell, hogy technikai és társadalmi védőkorlátokkal irányíthatók maradjanak," – érvel.

A vita természetesen nem fekete-fehér. Más kutatók szerint a kizárólagos kontroll és kényszer sem vezet biztonságos együttéléshez a jövő digitális elméivel. A túlzott jogkiterjesztés és a teljes jogmegtagadás egyaránt problémás lehet. A kihívás abban rejlik, hogy miként lehet felelősen, fokozatosan és bizonyítékokra támaszkodva dönteni olyan kérdésekről, amelyek alapjaiban formálhatják az emberiség jövőjét.

Yoshua Bengio szavai különösen nagy súllyal esnek latba. A Montreali Egyetem professzora, a 2018-as Turing-díj – az informatika Nobel-díjának – társgyőztese, akit gyakran az MI egyik "keresztapjaként" emlegetnek.

Figyelmeztetése tehát nem technofób pánikkeltés, hanem egy olyan szakember józan aggodalma, aki pontosan érti a technológia erejét. Az üzenet egyszerű, mégis nyugtalanító: amíg nem értjük teljesen, mivel állunk szemben, mindig készen kell állnunk arra, hogy kihúzzuk a dugót. (1)

(1) - https://www.theguardian.com/technology/