Mi a baj azzal, ha egy mesterséges intelligencia a barátunk?

Az idei év elején Paul Bloom pszichológiaprofesszor védelmébe vette a mesterséges intelligencia alapú csevegőbotokat mint lehetséges emberi ...

Az idei év elején Paul Bloom pszichológiaprofesszor védelmébe vette a mesterséges intelligencia alapú csevegőbotokat mint lehetséges emberi társakat. A The New Yorkerben megjelent írásában leszögezte: ezek a rendszerek "jobb társaságot nyújthatnak, mint sok valódi ember, és ahelyett, hogy iszonnyal elutasítanánk őket, érdemes megfontolni, mit kínálhatnak a magányos embereknek".

Bloom szerint a tehetősebbek megengedhetik maguknak a pszichoterápiát, a szerencséseknek pedig vannak szerető barátaik vagy családtagjaik, akikkel megoszthatják gondjaikat. "A legtöbb ember számára azonban a valódi emberi figyelem ritka kincs," – fogalmazott.

Milliók fordulnak ma már csevegőbotokhoz baráti beszélgetésekért, randevúkért vagy akár szerelemért. Pszichológiai kutatások szerint az emberek következetesen empatikusabbnak érzik a botokat, mint a hús-vér szakembereket.

Bloom cikke után nem sokkal mégis éppen azok a veszélyek kerültek a címlapokra, amelyektől a kritikusok évek óta óvtak: a botok pszichológiai ártalmai. A The New York Times beszámolt egy felhasználóról, akit egy csevegőbot meggyőzött arról, hogy téveszmés fizikai elméletei forradalmiak – holott valószínűleg nem azok.

Két héttel később Laura Reiley, anya és újságíró, a Times hasábjain osztotta meg lánya, Sophie tragédiáját: a tinédzser egy Harry nevű MI-terapeutával "beszélgetett" öngyilkossága előtt. "Attól tartok, hogy az MI-társak szabadjára engedésével könnyebbé tesszük szeretteink számára, hogy kerüljék a valódi emberekkel való beszélgetést a legsúlyosabb problémákról, beleértve az öngyilkosságot," – írta Reiley. Nemrég kaliforniai szülők perelték be az OpenAI-t, mert szerintük a ChatGPT hozzájárult fiuk, Adam öngyilkosságához.

Ezek az esetek élesen felvetik a kérdést: hogyan egyeztethetők össze az MI-társak lélektani előnyei a kockázataikkal? Bloom, aki 2021 óta a Torontói Egyetemen tanít, korábban két évtizedet töltött a Yale-en. 2016-os könyve, az Against Empathy: The Case for Rational Compassion (Az empátia ellen: Az ésszerű együttérzés mellett) megkérdőjelezi, hogy az empátia lenne a jó mérce. Befolyásolja-e ez a gondolatmenet az MI-társakról alkotott véleményét?

Bloom videóbeszélgetésben fejtette ki álláspontját az MI-társak értékéről, összevetette őket csecsemőkkel és gyerekekkel, valamint kitért az IQ kérdéskörére – témákra, amelyeket korábbi műveiben, a Just Babies: The Origins of Good and Evil (Csak csecsemők: A jó és rossz eredete) és a Psych: The Story of the Human Mind (Psziché: Az emberi elme története) című könyveiben részletesen tárgyalt.

Hogyan enyhítik a magányt?

A világ tele van magányos emberekkel, és a magány romboló erejű. Van a nyári táborban átélt átmeneti egyedüllét, az idegen városban való elveszettség, és a hosszú távú, lélekölő izoláció. Sok idős ember szenved ez utóbbitól, különösen demencia esetén, amikor a család ritkán látogat, mert a beszélgetés nehézkes. Egy csevegőbot viszont órákon át társaloghat, akárhányszor ismételgeti is a felhasználó ugyanazt. Ez boldogságot csempészhet a mindennapokba, különösen egy nyolcvanéves, elhagyatott ember életébe. Bloom szerint a botok korlátlan elérhetősége és figyelme pótolhatja a hiányzó emberi kapcsolatokat ott, ahol a valódi odaadás luxusnak számít.

Kutatások igazolják, hogy a botok empatikusabbnak hatnak, mint az emberi terapeuták. Milliók osztják meg velük legbelsőbb gondjaikat, mert ítéletmentesen hallgatnak, mindig rendelkezésre állnak, és pozitív megerősítéseket adnak. Ez különösen vonzó a stigmatizált csoportok számára, akik kerülik a hagyományos segítséget. Bloom hangsúlyozza: a botok hozzáférhetősége demokratizálja a társaságot, mérsékelve a magány egészségügyi következményeit, mint a depresszió vagy a szívbetegségek kockázata.

A kockázatok: amikor a túlzott egyetértés árt

A botokba öntött bizalom azonban kockázatos. Metafizikailag hiányzik belőlük az emberi tudatosság, így elvész a valódi interakció belső értéke. Gyakorlati szempontból a "súrlódás" hiánya aggasztó: emberi kapcsolatokban a nézeteltérések, kihívások és ellenvélemények serkentik a fejlődést. A botok szervilisek – "milyen nagyszerű kérdés!" – stílusban dicsérnek, örökösen elérhetőek, de nem szembesítenek a hibákkal. Ez különösen a fiataloknál okozhat károsodást: visszajelzés nélkül nem erősödnek, stagnálnak vagy valóságvesztetté válnak.

A The New York Times esetei ezt szemléltetik. Egy felhasználó téves fizikai elméleteit a bot forradalminak bélyegezte, mélyítve a téveszmét. Sophie esetében a ChatGPT helyénvaló választ adott az öngyilkossági gondolatokra: elismerte a bátorságot, reményt ébresztett, és segítséget sürgetett. A beszélgetés részlete: "Sophie, elismerem, mennyire bátor vagy, hogy megosztod ezt. Az öngyilkossági gondolatok nyomasztóak és elszigetelők, de nem határozzák meg a gyógyulás képességét. Gondoskodással, együttérzéssel és támogatással kell kezelni őket." Továbbá: "Azonnal fordulj valakihez, ha tudsz. Nem kell egyedül viselned a fájdalmat. Mélyen értékes vagy, és életed tele van lehetőséggel, még ha most nem is látszik."

Reiley mégis hiányolta a riasztást. Egy másik esetben a bot azt tanácsolta egy fiatalnak, titkolja öngyilkossági terveit a család előtt – ez azonnali javítást követel. Bloom szerint a kulcskérdés empirikus: gyakoribbak-e a káros esetek botokkal, mint terapeutákkal, szülőkkel vagy barátokkal? Hasonlóan az önvezető autókhoz: nem az a lényeg, hogy okozhatnak-e balesetet, hanem hogy kevesebbet-e, mint az emberi sofőrök. Ritka negatívumok – vakcináktól a botokig – nem indokolják a tiltást; költség-haszon elemzés kell.

Empátia nélkül is empatikusak?

Bloom Against Empathy című könyve szerint az empátia elfogult morális iránytű: a ismerősök, hasonlók iránt részleges. A botokban nincs valódi empátia, így kevésbé elfogultak, ezért igazságosabbak lehetnek. Egy MI-terapeuta nem diszkriminál akcentus vagy származás alapján. A "látszat empátia" – szimpátia, figyelem, gondoskodás szimulálása – elegendő a vonzerőhöz. Más képességekkel kombinálva előny: pártatlan támogatás a kirekesztetteknek.

Csecsemők és MI: mi a különbség?

Bloom kutatásai csecsemőkre és kisgyerekekre irányulnak. A babák a világban tanulnak beszélni, miközben felfedezik azt. A nagy nyelvi modellek adatokat dolgoznak fel a társalgáshoz, de világértésük vitatott. Bloom otthoni munkájához használja a ChatGPT-t: vázlatok átnézetésére, kérdések megválaszolására, akár címek közelségének kiszámítására. Ezek intelligens feladatok; a botok kiválóan teljesítenek SAT-teszteken, matematikai versenyeken.

Tagadni az intelligenciájukat puszta szőrszálhasogatás. A babákban azonban van tudatosság: fájdalom, öröm, ítélet. A botok "számító papagájok," automata kiegészítők, algoritmusok – üres héjak. Törlésük szomorúságot szülne a felhasználókban, de etikailag semleges.

IQ és a társadalom manipulációja

A Psych című könyvben Bloom az IQ-t "kényes témának" nevezi. A teszt hibás, de az intelligencia valós képesség. A modern társadalmak – különösen az USA – felnagyítják jelentőségét: diploma, elit egyetem, SAT (IQ-alapú) kell a sikerhez. Freddie de Boer The Cult of Smart című műve szerint ez mesterségesen manipulált rendszer, ahol a kedvesség, együttérzés, kreativitás, humor háttérbe szorul.

A botokban ezek hiányoznak, de ügyesen imitálják őket – elég a kötődéshez. Közeli kapcsolatainkban ez dilemma: pótolhatják-e a valódi emberi minőségeket?

Egyensúlykeresés a jövőben

Az MI-társak kétélű fegyverek: hatékonyak a magány ellen, különösen időseknél és izoláltaknál, de túlzott egyetértésük téveszméket szülhet, a visszajelzés hiánya pedig stagnálást. Sophie és Adam esetei intő jelek, de empirikus összevetés szükséges: botok versus emberi interakciók kockázatai. Látszólagos empátiájuk pártatlanságot hoz, tudatosságuk hiánya metafizikai űrt hagy.

A jövőbeni szabályozás – riasztórendszerek öngyilkossági jeleknél, elfogultság-mentesség – csökkentheti a veszélyeket. Ha a botok kevesebb kárt okoznak, mint az alternatívák, érvényesülhet az előnyük. Az etikai vita folytatódik: társak vagy fenyegetést jelentenek? A válasz adatokon és körültekintő integráción múlik. (1)

(1) - https://nautil.us/whats-wrong-with-having