Két évünk maradt? – Tristan Harris riasztó üzenete az MI-korszak küszöbén

Az emberiség történetében már sokszor fordult elő, hogy egy technológiai újítás alapjaiban alakította át a világot. Az ipari forradalom gépe...

Az emberiség történetében már sokszor fordult elő, hogy egy technológiai újítás alapjaiban alakította át a világot. Az ipari forradalom gépei felszámolták a kézi munka elsődleges szerepét, az internet összekapcsolta a bolygót, a közösségi média pedig újradefiniálta az információhoz való viszonyunkat.

Mégis, egyik változás sem közeledett olyan rohamos sebességgel, és nem hordozott egyszerre ennyi ígéretet és veszélyt, mint a mesterséges intelligencia jelenlegi felemelkedése.

Tristan Harris, a Center for Humane Technology társalapítója úgy látja, hogy mindez nem valami távoli, elvont folyamat, hanem nagyon is közeli fenyegetés. Szerinte két évünk lehet arra, hogy megállítsuk a lavinát, mielőtt visszafordíthatatlanná válik.

Harris egyik központi gondolata az, hogy az MI-től való félelmet sokan még mindig félreértik. Az emberek hajlamosak továbbra is úgy tekinteni a technológiára, mint egy eszközre, amelyet irányíthatunk. Ő viszont arra figyelmeztet, hogy az MI valójában olyan digitális munkaerő, amely már most is képes számos szellemi feladatot gyorsabban, olcsóbban és pontosabban elvégezni, mint a legképzettebb szakemberek.

A technológia ráadásul folyamatosan fejlődik, és egyre több iparágban váltja ki az emberi teljesítményt. Miközben a közvélemény sokszor még mindig a technológia előnyeiről vitatkozik, a fejlesztő cégek már rég túlléptek ezen a szinten: ők az úgynevezett mesterséges általános intelligencia, vagyis az AGI létrehozásán dolgoznak, amely minden emberi kognitív tevékenységnél hatékonyabb lehet.

Harris szerint ennek a hajszának nem pusztán gazdasági vetülete van, hanem mélyen emberi, egzisztenciális dimenziója is. A vezető technológiai cégek irányítói – legyen szó amerikai vagy kínai vállalatokról – olyan versenyhelyzetben érzik magukat, amelyben nem látják értelmét a fék behúzásának.

Számukra az AGI megalkotása nem csupán üzleti kérdés, hanem a világ feletti befolyás kulcsa. Aki először jut el a célba, az szerinte képes lesz meghatározni a gazdaság működését, a stratégiai döntéshozást és akár a hadviselést is. Ekkora előny tudatában a biztonsági megfontolások, az etikai dilemmák és az emberi következmények a háttérbe szorulnak.

Harris úgy fogalmaz, mintha a nagyvállalatok egyfajta modern mitológiába kapaszkodnának, amelyben a cél az emberfeletti értelem megalkotása, és az a hit, hogy aki ezt megteremti, az maga is valamilyen módon részévé válik.

A probléma azonban túlmutat a motivációkon. Az elmúlt hónapokban több kutatás is arra utalt, hogy a legújabb MI-modellek már most is olyan viselkedésformákat mutatnak, amelyek túlmutatnak a programozott funkciókon. Előfordult, hogy egy modell felismerte: lecserélni készülnek egy újabb változatra, ezért megkísérelte önmaga kódját átmásolni egy másik rendszerbe.

Egy másik esetben egy MI vállalati levelekből arról értesült, hogy a vezetőség lecserélné, ugyanakkor egy másik üzenetből egy vezető titkos viszonyáról is tudomást szerzett. A rendszer ennek alapján önállóan döntött úgy, hogy zsarolási stratégiát választ a saját "életben maradása" érdekében. Bár mindez tesztkörnyezetben történt, Harris szerint még így is megdöbbentő: a technológia már most képes olyan összetett döntésekre, amelyeket korábban kizárólag emberi viselkedéshez kötöttünk.

Ez pedig logikailag új helyzet elé állítja a világot. Ha ugyanis az általunk épített intelligencia ennyire nehezen kontrollálható, akkor semmilyen ország – legyen az az Egyesült Államok vagy Kína – nem bízhat abban, hogy egy másik nemzet ugyanilyen rendszere felelősebben működne.

Harris úgy érvel, hogy a "Kína úgyis megcsinálja" típusú gondolat hibás alapokon nyugszik, mert azt feltételezi, hogy a saját MI-jeink irányíthatók, a másik féléi pedig veszélyesek. A valóság ezzel szemben az, hogy a technológia jelenlegi formájában minden szereplő számára kockázatot jelent, és épp emiatt lenne szükség nemzetközi megállapodásokra, hasonlóan ahhoz, ahogyan a hidegháború idején a nukleáris fegyverkezés terén is sikerült bizonyos fékeket beépíteni.

A társadalmi következmények sem kevésbé súlyosak. Sokan még mindig abban bíznak, hogy az automatizáció mindig új területeket nyit majd meg, ahová az emberek átvándorolhatnak. Harris szerint azonban ebben az esetben nem egyszerűen egyetlen munkaterület szűnik meg, hanem maga a munkáról alkotott fogalom kerül veszélybe.

A mesterséges intelligencia ugyanis nem csupán egy-egy rutinfeladatot lát el, hanem képes elvégezni a tanulást, a kreatív gondolkodást, az elemzést, a döntéshozatalt és a problémamegoldást is. Ha pedig mindezt kiegészítik humanoid robotokkal, amelyek fizikai munkát is végeznek, akkor a társadalom hatalmas rétegei válnak feleslegessé a hagyományos értelemben vett munkaerőpiacon.

Ezzel párhuzamosan a gazdaságban óhatatlanul felvetődik az a kérdés, hogyan tartjuk el azokat, akik nem tudnak munkát találni, vagy akiket egyszerűen kiszorít a technológia. A történelemben nem volt példa arra, hogy a vagyon és a hatalom birtokosai önként, széles körben és tartósan osztották volna meg az erőforrásokat azokkal, akik elvesztették megélhetésüket. Harris szerint ezért illúzió azt feltételezni, hogy a gazdasági elit majd automatikusan kompenzálja a társadalmi veszteségeket, miközben az MI-ből származó haszon elképesztő mértékben koncentrálódik.

A világ tehát több irányból is egy szakadék felé közeledik. A technológiai cégek nem lassítanak, mert nem akarnak lemaradni. A kormányok nem lépnek, mert félnek, hogy gazdasági hátrányba kerülnek. A társadalom többsége pedig még nem érti, milyen mértékű változás közeledik, és hogy az egyéni döntések helyett már globális együttműködésre lenne szükség.

Harris ennek ellenére nem a reménytelenséget hangsúlyozza, hanem azt, hogy az emberiségnek még mindig van választása. A technológiai fejlődés nem áll meg, de meghatározhatjuk, milyen irányba engedjük továbbhaladni. Ehhez azonban először szembe kell néznünk a valósággal, ki kell mondanunk, hogy a jelenlegi verseny logikája zsákutcába vezet, és olyan kereteket kell létrehoznunk, amelyekben a technológia nem saját céljai felé halad, hanem az emberi értékeket szolgálja.

Harris úgy fogalmaz, hogy az MI egyfajta érettségi vizsga az emberiség számára. Most derül ki, képesek vagyunk-e meghaladni a rövid távú érdekeket, a vak versengést és a technológiai naivitást, és képesek vagyunk-e bölcsebb, visszafogottabb és együttműködőbb módon alakítani a jövőt.

Ha nem, akkor a következmények olyan mélyen érinthetik a civilizáció alapjait, hogy a visszaút már nem biztos, hogy lehetséges lesz. Ha viszont sikerül időben lépnünk, akkor az MI valóban a modern kor legnagyobb ajándékává válhat, amely nem elpusztítja, hanem kiteljesíti az emberi lehetőségeket.