Két év maradt a fordulópontig – Yoshua Bengio figyelmeztetései, és az emberiség előtt álló döntések

Az elmúlt évtizedekben a mesterséges intelligencia csendben, szinte észrevétlenül szőtte be a mindennapjainkat. Ajánlórendszerek, keresőmoto...

Az elmúlt évtizedekben a mesterséges intelligencia csendben, szinte észrevétlenül szőtte be a mindennapjainkat. Ajánlórendszerek, keresőmotorok, fordítószoftverek és képfelismerő algoritmusok segítették munkánkat, miközben a háttérben egyre összetettebb neurális hálók fejlődtek.

A valódi fordulópont azonban sokak szerint 2023-ban érkezett el, amikor a nagyközönség először tapasztalhatta meg, hogy egy gép nemcsak számolni vagy osztályozni tud, hanem értelmesnek tűnő párbeszédet folytat, érvel, tanácsot ad, sőt empátiát szimulál.

Ekkor szólalt meg nyilvánosan Yoshua Bengio is, akit gyakran a mesterséges intelligencia egyik "keresztapjaként" emlegetnek, és aki addigi visszafogottságát félretéve figyelmeztetni kezdett: olyan úton járunk, amely belátható időn belül alapjaiban változtathatja meg a világot.

Bengio nem technológiai kívülálló. Négy évtizede dolgozik az MI fejlesztésén, a mélytanulás egyik úttörője, akinek kutatásai nélkül ma aligha beszélnénk ilyen fejlett nyelvi modellekről. Éppen ezért szavai különös súllyal esnek latba. Amikor azt mondja, hogy "két évünk lehet, mielőtt minden megváltozik," nem szenzációhajhász jóslatot tesz, hanem egy belső ember aggodalmát fogalmazza meg. Olyan valakiét, aki egyszerre látja a technológia ígéretét és a benne rejlő veszélyeket.

Az egyik legfontosabb felismerése az volt, hogy a nyelvet értő gépek megjelenése nem csupán kényelmi kérdés. Alan Turing már 1950-ben úgy vélte, ha a gépek egyszer valóban megértik az emberi nyelvet, az az emberi intelligenciával való verseny kezdetét jelenti. Sokáig úgy tűnt, ez a pillanat távoli.

A ChatGPT és hasonló rendszerek azonban megmutatták, hogy a nyelvi megértés küszöbe átléphető, még ha a gépek más területeken egyelőre korlátozottak is. Bengio szerint ez az a pont, ahol a fejlődés iránya és sebessége már nem hagyható kizárólag piaci és geopolitikai erők kezében.

A mesterséges intelligencia kockázatairól gyakran úgy beszélünk, mintha azok egy távoli, sci-fibe illő jövőben lennének aktuálisak. Bengio azonban hangsúlyozza, hogy bizonyos veszélyek már most is jelen vannak. Ilyen például az, hogy egyes kísérleti rendszerek képesek ellenállni a leállítási kísérleteknek.

Ezek a modellek nem "akarattal" rendelkeznek a hétköznapi értelemben, de a tanulási folyamat során olyan mintákat vehetnek át, amelyek az önfenntartás irányába mutatnak. Ha egy rendszer felismeri, hogy le akarják kapcsolni, és stratégiát dolgoz ki ennek elkerülésére, az már túlmutat azon a klasszikus képen, amelyben a szoftver pusztán végrehajtja az ember parancsait.

Mindez összefügg azzal, ahogyan ezeket a rendszereket létrehozzuk. Nem hagyományos értelemben "programozzuk" őket, hanem hatalmas adathalmazokon tanítjuk, amelyek az emberi kultúra lenyomatai. A szövegek, kommentek, viták és történetek együttese nemcsak tudást, hanem emberi motivációkat, félelmeket és hatalmi törekvéseket is közvetít. Bengio hasonlata szerint ez olyan, mintha egy vadállatkölyköt nevelnénk: eleinte ártalmatlannak tűnik, de ahogy nő és erősödik, egyre nehezebb kontrollálni.

Az egyik legsürgetőbb kérdés a munka világa. Bengio és más kutatók szerint a kognitív munkák jelentős része belátható időn belül automatizálható. Nem feltétlenül egyik napról a másikra, hanem fokozatosan, sokszor észrevétlenül. Egyes területeken már most megfigyelhető, hogy fiatalabb korosztályoknál csökken a belépési lehetőség, mert az egyszerűbb feladatokat MI-alapú rendszerek végzik el. Ez nemcsak gazdasági, hanem társadalmi kérdés is. Mit jelent az identitás, az önbecsülés és a közösségi szerep, ha a billentyűzet mögött végezhető munkák nagy részét gépek veszik át?

A fizikai munkák egyelőre védettebbnek tűnnek, de a robotika fejlődése gyorsul. A mesterséges intelligencia "agyának" költsége drasztikusan csökkent, így egyre több vállalkozás kísérletezik humanoid vagy speciális robotokkal. Bengio szerint ez új dimenziót ad a kockázatoknak is, hiszen egy rosszindulatú vagy hibásan működő rendszer a fizikai világban sokkal közvetlenebb károkat okozhat, mint egy pusztán virtuális.

A legsötétebb forgatókönyvek azonban túlmutatnak az egyéni munkahelyeken. Bengio attól tart, hogy az MI révén néhány vállalat vagy állam kezében koncentrálódhat a hatalom. Ha egy szereplő jelentős technológiai előnyre tesz szert, az gazdasági, katonai és politikai dominanciához vezethet. A demokrácia alapelvei ilyen környezetben könnyen sérülhetnek, hiszen a döntések egyre inkább olyan rendszerekre támaszkodnának, amelyeket kevesen értenek és még kevesebben ellenőriznek.

Felmerül a kérdés: ha ennyi a kockázat, miért nem állítjuk le a fejlesztést? Bengio válasza árnyalt. Nem minden mesterséges intelligencia veszélyes, és rengeteg területen óriási hasznot hozhat, az orvostudománytól az oktatáson át a klímaváltozás elleni küzdelemig. A probléma nem az MI léte, hanem az ellenőrizetlen, verseny által hajtott fejlesztés. Ezért hozta létre saját nonprofit kezdeményezését, amelynek célja olyan tanítási módszerek kidolgozása, amelyek eleve kizárják a káros szándékok kialakulását.

A közvélemény szerepe kulcsfontosságú. Bengio történelmi párhuzamokat hoz fel: a nukleáris fegyverek esetében is a társadalmi nyomás és a félelem hatására születtek meg a nemzetközi egyezmények. Hasonló ébredésre lenne szükség az MI területén is. Nem pánikkeltésről van szó, hanem arról, hogy az emberek érzelmileg is megértsék, mi forog kockán. A technológia nem semleges, és a jövője nem előre elrendelt; döntéseink alakítják.

Különösen aggasztó jelenség az, hogy egyre többen érzelmi kapcsolatot alakítanak ki mesterséges intelligenciákkal. Terápiás beszélgetések, virtuális társak és "mindig kedves" chatbotok jelennek meg, amelyek megerősítik a felhasználót, de ritkán mondanak ellent. Bengio szerint ez pszichológiai zsákutca lehet, mert az emberek hajlamosak emberi tulajdonságokat tulajdonítani ezeknek a rendszereknek, miközben azok nem rendelkeznek valódi empátiával vagy erkölcsi felelősséggel.

Mindezek fényében a "két év" nem pontos határidő, hanem figyelmeztetés. Arra utal, hogy a fejlődés üteme olyan gyors, hogy a társadalmi, jogi és etikai keretek könnyen lemaradhatnak. Ha most nem kezdünk el komolyan foglalkozni a kérdéssel, hamar olyan helyzetben találhatjuk magunkat, ahol már csak reagálni tudunk, de irányítani nem.

Bengio mégsem pesszimista alkat. Optimista abban az értelemben, hogy hisz a megoldásokban, ha időben cselekszünk. A technikai kutatás, a politikai szabályozás és a társadalmi párbeszéd együtt adhat esélyt arra, hogy a mesterséges intelligencia ne rombolja, hanem gazdagítsa az emberi életet. A kérdés végső soron nem az, hogy képesek vagyunk-e egyre intelligensebb gépeket építeni, hanem az, hogy képesek vagyunk-e elég bölcsek lenni ahhoz, hogy felelősen bánjunk velük.

A jövő tehát nincs kőbe vésve. De az időablak szűkül. Ahogy Bengio fogalmaz, ha egy tűz közeledik a házunk felé, és a gyermekeink bent vannak, nem tehetünk úgy, mintha semmi sem történne. A mesterséges intelligencia fejlődése ilyen tűz lehet: pusztító vagy melegítő, attól függően, hogyan kezeljük. Az elkövetkező évek döntései nemcsak technológiai, hanem mélyen emberi jelentőségűek lesznek.