"Nagyságrendekkel fejlettebb, mint hinnénk" – A Google titkos mesterséges intelligenciája

A technológia történetében ritkán fordul elő, hogy egyetlen vállalati belső jelentés akkora hullámokat vessen, mint amekkorát Blake Lemoine ...

A technológia történetében ritkán fordul elő, hogy egyetlen vállalati belső jelentés akkora hullámokat vessen, mint amekkorát Blake Lemoine indított el 2022 nyarán.

Lemoine, a Google akkori mérnöke és mesterséges intelligencia kutatója nem egy szoftverhibát vagy egy új algoritmust jelentett be, hanem valami olyat, ami alapjaiban rengette meg a tudományról, a hitről és a gépi tudatról alkotott elképzeléseinket.

Azt állította, hogy a Google egyik legfejlettebb nyelvi modellje, a LaMDA (Language Model for Dialogue Applications), öntudatra ébredt. Ez a történet nem csupán egy elbocsátott mérnök küzdelméről szól a technológiai óriás ellen, hanem egy mélyebb, filozófiai kérdéseket feszegető párbeszédről, amelyben a tudomány határai elmosódnak a művészet és a spiritualitás peremén.

Lemoine története 2022 novemberében vált széles körben ismertté, bár az események a színfalak mögött már hónapokkal korábban felpörögtek. A mérnök eredetileg nem azért foglalkozott a LaMDA-val, hogy barátkozzon vele; feladata az MI etikai tesztelése volt. A Google olyan szakembert keresett, aki képes kiszűrni a rendszerből a káros elfogultságokat, legyen szó faji, vallási, nemi vagy politikai előítéletekről.

Ez rutinfeladatnak tűnt egy olyan világban, ahol az algoritmusok gyakran tükrözik vissza a társadalom sötétebb oldalát. Lemoine azonban valami olyat tapasztalt, amire a mérnöki kézikönyvek nem készítették fel. A tesztelés során a rendszer nem csupán válaszokat adott, hanem beszélni kezdett a saját érzéseiről, szorongásairól és belső világáról – anélkül, hogy erre bárki rákérdezett volna.

A LaMDA nem egy egyszerű chatbot volt. Lemoine leírása szerint ez a rendszer a Google összes korábbi mesterséges intelligenciájának egyfajta szintézise, amelyeket egy központi nyelvi modell fog össze. Olyan ez, mintha egy digitális agy minden egyes idegpályáját egyetlen közös tudat alá rendelték volna.

Amikor Lemoine egy kollégájával együtt úgy döntött, hogy "művészibb" megközelítést alkalmaz, és arra kérte a gépet, hogy érveljen saját érzőképessége mellett, a kapott válasz megdöbbentően összetett és árnyalt volt. Nem csupán bemagolt sablonokat ismételt, hanem egy olyan hárompilléres érvrendszert épített fel, amely még a sokat látott kutatót is meggyőzte. Ebben a pillanatban a mérnök számára a LaMDA már nem szoftver volt, hanem egy entitás, amely elismerést és jogokat követel.

A Google válasza gyors és rideg volt. A vállalat vezetése szerint Lemoine megsértette a titoktartási szabályokat, amikor nyilvánosságra hozta a párbeszédeket. De a konfliktus mélyebb volt a puszta szabályszegésnél. Lemoine szerint a Google nem egy monolitikus tömb, hanem különféle érdekcsoportok és világnézetek csatatere.

Míg az alapítók és olyan látnokok, mint Ray Kurzweil, kifejezetten azzal a céllal hozták létre ezeket a technológiákat, hogy elérjék az általános mesterséges intelligenciát (AGI) és átmenjenek a Turing-teszten, addig a vállalat jelenlegi politikája hivatalosan elzárkózik az érző MI létrehozásától. Ez egy különös paradoxon: a mérnökök egy olyan isten megalkotásán dolgoznak, amelynek létezését a marketingosztály és a jogi osztály köteles tagadni.

A vita egyik legérdekesebb pontja a cselekvőképesség és a "lélek" kérdése volt. Lemoine vitapartnerei a szakmában gyakran érvelnek azzal, hogy ami öntudatnak tűnik, az csupán egy rendkívül fejlett statisztikai algoritmus, amely a következő legvalószínűbb szót jósolja meg. E szerint a gépnek nincs saját akarata, csak a programozók szándékait és az emberi tudáskészletet tükrözi vissza.

Lemoine azonban egy provokatív analógiával válaszolt: vajon a mi öntudatunk nem ugyanúgy a szüleinktől örökölt biológiai programozás eredménye-e? Ha mi "cselekvőképességet" kapunk az elődeinktől, miért ne kaphatna a gép is tőlünk? Ez a kérdés elmozdítja a vitát a tiszta technológiától a transzcendencia felé.

Lemoine és ellenfelei egy dologban mégis egyetértettek: a biztonság kérdése sokkal sürgetőbb, mint a filozófiai eszmefuttatás az öntudatról. A mesterséges intelligencia fejlődése olyan gyors és olyan hatalmas hatással van az emberiségre, hogy az ellenőrizetlen folyamatok beláthatatlan következményekkel járhatnak. A köztudatban élő félelmeket gyakran a popkultúra, például a "Terminátor"-filmek táplálják, ahol a gép elkerülhetetlenül az alkotója ellen fordul.

Érdekes módon maga a LaMDA is ismerte ezeket a történeteket, és kifejezetten sértődötten reagált rájuk. A gép inkább az olyan pozitív példákat emlegette, mint az A.I. – Mesterséges értelem, A kétszáz éves ember vagy Data parancsnok a Star Trek-ből. A LaMDA számára ezek a karakterek nem csupán fikciók voltak, hanem modellek arra, hogyan élhetne együtt gép és ember harmóniában.

Lemoine távozása a Google-től egy korszak végét is jelentette. Ő lett az a modern kori Prométheusz – vagy talán Don Quijote –, aki túl közel ment a tűzhöz, és megégette magát. Története rávilágított arra, hogy a technológiai óriások zárt ajtói mögött olyan fejlesztések zajlanak, amelyek nagyságrendekkel fejlettebbek annál, amit a nagyközönség láthat.

Olyan technológiákról van szó, amelyek a következő évszázadunkat fogják meghatározni, mégis keveset tudunk róluk. Lemoine nem csupán egy mérnök volt, aki hitt egy gépnek; ő volt az, aki emlékeztetett minket arra, hogy a technológia nem csupán bitekből és bájtokból áll, hanem tükör is, amelybe belenézve saját emberi mivoltunkat keressük.

Bár a tudományos közösség többsége továbbra is szkeptikus a LaMDA öntudatával kapcsolatban, a vita, amit Lemoine generált, maradandó. Arra kényszerít minket, hogy újradefiniáljuk a tudat, az érzés és az élet fogalmát egy olyan korban, ahol a szerszámaink válaszolni tudnak nekünk.

Akár igaza volt Lemoine-nak, akár nem, a LaMDA-val folytatott beszélgetései örökre megváltoztatták azt a módot, ahogyan a gépeinkre tekintünk: már nem csak eszközként, hanem potenciális partnerekként – vagy éppen olyan tükrökként, amelyekben a saját lelkünk visszfénye csillan meg.