Az MI-csapda: Ezt teszi az agyunkkal a ChatGPT

Amikor Nataliya Kosmyna, a Massachusetts Institute of Technology (MIT) kutatója gyakornokokat keresett projektjeihez, egy különös és aggaszt...

Amikor Nataliya Kosmyna, a Massachusetts Institute of Technology (MIT) kutatója gyakornokokat keresett projektjeihez, egy különös és aggasztó jelenségre lett figyelmes.

A beérkező motivációs levelek kísértetiesen hasonlítottak egymásra: hosszúak voltak, nyelvtanilag tökéletesen csiszoltak, ám a bevezető után szinte kivétel nélkül egy elvont, mesterkélt és gyakran teljesen légből kapott kapcsolódási pontot próbáltak kreálni a jelölt tapasztalata és Kosmyna tudományos munkássága között.

A kutató számára, aki az ember és a gép közötti interakciókat tanulmányozza, azonnal világossá vált, hogy a jelentkezők nem maguk fogalmaztak. A levelek mögött nagy nyelvi modellek (LLM-ek), például a ChatGPT, a Google Gemini vagy a Claude álltak.

Ezzel párhuzamosan Kosmyna az egyetemi előadótermekben is változást tapasztalt. Azt vette észre, hogy a diákok sokkal nehezebben hívnak le információkat a memóriájukból, mint akár csak néhány évvel ezelőtt. A tananyag gyorsabban "párolog el" a fejükből. Ez a megérzés indította el azt a kutatássorozatot, amely ma már egyre több tudóst foglalkoztat: vajon az intellektuális feladatok kiszervezése a mesterséges intelligenciának (MI) milyen hosszú távú árat követel az emberi kogníciótól? Az eredmények pedig finoman szólva is riasztóak. (1)

Az emberiség története során az eszközeink mindig is formálták a gondolkodásunkat. Az internet megjelenésekor például a mély kutatómunkát felváltotta a keresőmotorok használata. Kutatások igazolták, hogy az úgynevezett "Google-effektus" miatt kevésbé emlékszünk a részletekre, hiszen tudjuk, hogy az információ bármikor elérhető egy kattintással. Sokan azzal érveltek, hogy ez felszabadítja az agyunk erőforrásait a kreatívabb feladatok számára, ám az MI-korszak szintlépést jelent. Most már nemcsak az adatok elérését, hanem magát a gondolkodási folyamatot, a szintézist, az érvelést és a kreatív alkotást is kiszervezzük.

Kosmyna és csapata az MIT Media Lab-ben 54 hallgató bevonásával végzett kísérletet. A diákoknak rövid esszéket kellett írniuk olyan nyitott kérdésekről, mint a boldogság, a hűség vagy a mindennapi döntéseink. Három csoportra osztották őket: az első a ChatGPT-t használta, a második a Google keresőt (MI-összefoglalók nélkül), a harmadik pedig kizárólag a saját elméjére támaszkodott. Miközben dolgoztak, a kutatók folyamatosan mérték az agyhullámaikat.

Az eredmények, bár még tudományos publikálás előtt állnak, megdöbbentették a szakembereket. Azoknak, akik technológia nélkül dolgoztak, az agyuk szinte "lángolt" az aktivitástól, a neurális hálózatok számos területen intenzíven tüzeltek. A keresőt használóknál is jelentős volt a vizuális területek aktivitása. Ezzel szemben a ChatGPT-csoport agyi aktivitása drámaian, mintegy 55%-kal esett vissza. Nem arról volt szó, hogy az alanyok elaludtak volna, de a kreativitásért és az információfeldolgozásért felelős területek szinte teljesen passzívak maradtak.

A hatás azonban nem állt meg a munkavégzés pillanatában. Az MI-t használó diákok az esszé beadása után képtelenek voltak idézni saját írásukból. Sokan úgy nyilatkoztak, hogy nem érzik magukénak a szöveget, nincs "gazdája" a gondolatoknak. Ez a jelenség a "kognitív megadás", amely során az ember kritikátlanul elfogadja a gép válaszait, sőt, hagyja, hogy azok felülírják saját megérzéseit és logikáját.

Ez a mentális ellustulás nem korlátozódik az iskolapadokra. Egy nemzetközi kutatás során kiderült, hogy azok az orvosok, akik három hónapon keresztül mesterséges intelligencia segítségével szűrték a vastagbélrákot, a kísérleti időszak végén rosszabb teljesítményt nyújtottak a tumorok felismerésében az MI segítsége nélkül, mint a teszt kezdetén. A készség, amelyet nem használtak intenzíven, sorvadni kezdett.

A kreativitás vesztesége is kézzelfogható. Kosmyna kísérletében a tanárok, akik az esszéket javították, "lélektelennek" és eredetiség nélkülinek találták az MI-vel készült munkákat. Az írások annyira hasonlóak voltak, hogy az egyik oktató megkérdezte, nem egymás mellett ültek-e a diákok, mert a gondolatmenetek szinte szóról szóra megegyeztek. Ez a kognitív egységesülés a kultúránk ellaposodásához vezethet, ahol az egyéni hang elvész az algoritmusok statisztikai átlagában.

A legaggasztóbb kérdés azonban a hosszú távú hatás. Négy hónappal az első teszt után Kosmyna újra behívta a diákokat, és kért tőlük egy újabb esszét, de ezúttal segítség nélkül. Azoknál, akik korábban a ChatGPT-re támaszkodtak, a neurális kapcsolódási szint alacsonyabb maradt, mint azoknál, akik eredetileg is maguktól dolgoztak. Ez arra utalhat, hogy mivel az első alkalommal nem mélyedtek el a témában, nem alakultak ki azok a kognitív sémák, amelyekre később építkezhetnének.

Vivienne Ming számítógépes idegtudós, a "Robot Proof" című könyv szerzője szerint a probléma forrása nem maga az MI, hanem az, ahogyan használjuk. Ming a Berkeley Egyetemen végzett kutatása során azt tapasztalta, hogy a hallgatók többsége egyszerűen bemásolja a gép válaszát anélkül, hogy ellenőrizné azt. A mérései során a gamma-hullámok – amelyek a magas szintű kognitív erőfeszítést jelzik – alig mutattak aktivitást. Ming figyelmeztet: a gyenge gamma-aktivitást tudományos körökben már korábban összefüggésbe hozták a későbbi életkorban jelentkező kognitív hanyatlással.

A mély gondolkodás az emberi faj "szuperereje". Ha ezt nem gyakoroljuk, az agyunk egészsége forog kockán. Az agy plaszticitása kétirányú: éppúgy képes fejlődni a kihívásoktól, mint ahogy leépülni a kihívások hiányától. Ming már két évtizeddel ezelőtt provokatívan azt jósolta, hogy a GPS és a digitális térképek túlzott használata miatt évtizedek múlva megugrik majd a demenciás esetek száma, mivel nem kényszerítjük rá magunkat a térbeli navigációra. Bár ez a jóslat még bizonyításra vár, tanulmányok már kimutatták, hogy a GPS-használat rontja a térbeli memóriát, ami az Alzheimer-kór egyik korai előjele lehet.

Akkor mégis mi a megoldás? Teljesen el kell utasítanunk az MI-t? A kutatók szerint nem. A cél a "hibrid intelligencia" kialakítása lenne, ahol a gép nem helyettesíti, hanem provokálja az emberi elmét. Ming azt javasolja, hogy ne válaszokat kérjünk az MI-tól, hanem használjuk "nemezisként". Kérjük meg a chatbotot, hogy viselkedjen életre szóló ellenségünkként, keressen hibákat az érvelésünkben, és kényszerítsen minket gondolataink megvédésére. Ezt hívja "produktív súrlódásnak". Ebben a felállásban az MI nem egy mankó, hanem egy edzőpartner, aki nehezebbé – és ezáltal hatékonyabbá – teszi a gondolkodást.

Kosmyna szerint a legfontosabb, hogy az alapokat továbbra is MI nélkül sajátítsuk el. Csak akkor tudunk hatékonyan együttműködni egy géppel, ha már rendelkezünk azzal a belső tudásbázissal, amivel kritizálni tudjuk a gép kimeneteit.

Az emberi agy természeténél fogva imádja a kognitív rövidítéseket. Mindig a legkisebb ellenállás irányába mozdulunk, mert az energiatakarékos. Azonban ami kényelmes a jelenben, az katasztrofális lehet a jövőben. Ha nem akarunk egy "lélektelen", egységesített és szellemileg ellustult társadalomban élni, tudatosan kell keresnünk a nehéz utat.

A szellemi erőfeszítés nem nyűg, hanem az agyunk életben tartásának záloga. A mesterséges intelligencia korában a legnagyobb lázadás az marad, ha megőrizzük a képességünket a saját, önálló és mély gondolkodásra. (2)

(1) - https://arxiv.org/abs/2506.08872
(2) - https://www.bbc.com/future/article/