Az emberi agy láthatatlan tanítómestere: Rejtett algoritmusok sugallják, mit gondoljunk

Az online tér ma már nem egyszerű információs közeg, hanem egy személyre szabott univerzum, amely minden felhasználó előtt más arcát mutatja...

Az online tér ma már nem egyszerű információs közeg, hanem egy személyre szabott univerzum, amely minden felhasználó előtt más arcát mutatja. Amit látunk, hallunk vagy olvasunk, gyakran egy háttérben dolgozó rendszer döntéseinek eredménye.

Azt viszont ritkábban mérlegeljük, hogy mi történik azzal a rengeteg tartalommal, amelyet soha nem mutatnak meg nekünk. Egy friss kutatás szerint nemcsak az számít, hogy mi kerül a szemünk elé, hanem legalább ugyanannyira az is, hogy mit nem engednek látni. És ez a csendes szűrés lassan, alattomosan átalakítja azt, ahogyan tanulunk és gondolkodunk.

A Vanderbilt Egyeteme és az Ohio Állami Egyetem kognitív kutatói olyan következtetésekre jutottak, amelyek túlmutatnak a közösségi média filterbuborékain. Azt találták, hogy az algoritmikus személyre szabás nem csupán szűkíti az emberek elé tárt információs teret, hanem észrevétlenül befolyásolja azt is, hogyan kutatnak, hogyan alakítják ki kategóriáikat, és mennyire biztosak a saját ítéleteikben. (1)

A torzulás ráadásul nemcsak akkor jelentkezik, ha a téma politikailag vagy érzelmileg terhelt. Akkor is megjelenik, ha a környezet teljesen semleges. A kísérletben nem hírek, videók vagy valós tartalmak szerepeltek, hanem hat tulajdonság alapján eltérő "idegen" lények, amelyek kategóriáit a résztvevőknek meg kellett tanulniuk felismerni.

A feladat egyszerű volt: a résztvevők újra és újra találkoztak egy-egy idegennel, és egy kattintással feltárhattak róla különböző vizuális jellemzőket, mint a formáját vagy fényességét. A cél az volt, hogy ezek alapján megtanulják, melyik lény melyik kategóriába tartozik. A kísérlet csavarja azonban ott kezdődött, hogy a résztvevők fele kiegyensúlyozott mintát látott, míg a többiek olyan sorozatot kaptak, amelyet egy YouTube-ajánlórendszer mintájára működő algoritmus válogatott számukra.

A rendszer figyelte, mely tulajdonságokra kattintanak gyakrabban, majd olyan lényeket mutatott nekik, amelyek a lehető legnagyobb eséllyel késztetik őket további kattintásokra. A mechanizmus pontosan úgy működött, mint amikor egy felhasználó rákattan egyetlen témára, és a platform egyre mélyebbre taszítja ugyanabba a szűk tartományba.

A vizsgálat hamar világossá tette, hogy az algoritmusok nemcsak a tartalmakat, hanem a gondolkodást is szűkítik. A személyre szabott környezetbe kerülő résztvevők idővel egyre kevesebb tulajdonságot vizsgáltak meg, és egyre szűkebb szeletét ismerték meg az idegen lények világának.

Az algoritmus lényegében egy láthatatlan kéz volt, amely arra ösztökélte őket, hogy ugyanazokat az információs ösvényeket járják újra és újra. A kontrollcsoport ezzel szemben sokkal szélesebb körben, szinte egyenletesen fedezte fel az összes rendelkezésre álló jellemzőt. Az eltérés elsőre alig érzékelhető volt, de a tanulás végére komoly következményekkel járt.

A torzulás következő, sokkal súlyosabb jelei akkor bukkantak fel, amikor a résztvevőket új lények kategorizálására kérték. Minden válaszhoz meg kellett adniuk, mennyire biztosak benne, hogy jól döntöttek. A személyre szabott környezetben tanulók ekkor rendkívüli magabiztossággal kezdtek téves következtetéseket levonni.

Amikor olyan lényekkel kerültek szembe, amelyek kategóriáival korábban egyáltalán nem találkoztak, szinte soha nem ismerték fel az újdonságot. Nem azt gondolták, hogy valami ismeretlennel állnak szemben, hanem a már megtanult, szűk kategóriáik egyikéhez sorolták őket - hibásan, de megingathatatlan bizonyossággal.

A kutatók szerint ez a jelenség különösen ijesztő, mert azt mutatja, hogy a személyre szabott tanulási környezet nemcsak a látott adatokat torzítja, hanem a belső gondolkodási mintákat is átszabja, miközben felerősíti az önbizalmat ott, ahol a legkevesebb alapja lenne. A résztvevők akkor voltak a legmagabiztosabbak, amikor a leginkább tévedtek.

A vizsgálat egyik legfontosabb tanulsága, hogy minderre nem volt szükség sem politikai érzékenységre, sem érzelmi manipulációra, sem korábbi véleményekre. A környezet steril, semleges és mesterséges volt. Ha egy ilyen letisztított közegben is ekkora torzulások jönnek létre, könnyű elképzelni, milyen erős hatással lehet a személyre szabás egy olyan világban, amely telis-tele van társadalmi, kulturális és identitással kapcsolatos tartalmakkal.

Az algoritmusok nem csupán kiszolgálják az emberek előzetes érdeklődését, hanem aktívan vissza is hatnak rá, így egy önmagát erősítő körforgás alakul ki: a felhasználó kattintásai módosítják az algoritmust, az algoritmus pedig visszatereli őt az egyre szűkebb ösvényekre.

A kutatás több területen is aggasztó következményekre hívja fel a figyelmet. A társadalmi párbeszédeket formáló platformok, a politikai tájékozódás, sőt egyes katonai vagy hírszerzési rendszerek is nagy mértékben támaszkodnak automatizált ajánlásokra. Ha az algoritmusok olyan gondolkodási mintákat építenek ki, amelyek a túlzott magabiztosságot és az információs torzulást erősítik, könnyen előfordulhat, hogy a döntéshozók úgy érzik, teljes képet látnak, miközben valójában csak egy nagyon szűk perspektívát kaptak.

A tanulmány szerzői éppen ezért kiemelik: a hibás magabiztosság bizonyos helyzetekben sokkal veszélyesebb lehet, mint az őszinte bizonytalanság. A félreinformált, mégis megingathatatlanul biztos ítélet egyaránt problémás lehet a tudományos kutatásban, a mérnöki tervezésben, a katonai hírszerzésben vagy a hétköznapi online tájékozódásban.

A személyre szabás természetesen nem önmagában rossz. A modern ember számára sokszor már kezelhetetlen mennyiségű információ zúdul a képernyőkre, és szükség lehet olyan rendszerekre, amelyek ezt átláthatóvá és feldolgozhatóvá teszik. A gond ott kezdődik, amikor a szűrés láthatatlanná válik, és a felhasználó úgy érzi, teljes képet kap, miközben az algoritmus csendben megvágja és újrarendezi a világot körülötte. A kutatás arra figyelmeztet, hogy egy személyre szabott információs térben nemcsak a választásaink módosulnak, hanem a gondolkodásunk is átalakulhat.

A szakértők szerint a társadalom egyik legfontosabb kihívása lesz megérteni és ellensúlyozni ezeket a folyamatokat. A jövő tanulói, kutatói és döntéshozói már olyan rendszerekkel nőnek fel, amelyek láthatatlanul beavatkoznak a megismerés folyamatába. A kérdés az, hogy felismerjük-e időben, mikor kezd el helyettünk gondolkodni az algoritmus, és képesek leszünk-e olyan eszközöket kialakítani, amelyek mellett az emberi kíváncsiság, nyitottság és önreflexió nem veszíti el a terepet.

Ahogy a tanulmány egyik szerzője, Brandon Turner fogalmazott: amikor egy gyermek megpróbálja megérteni a világot, és közben olyan algoritmusokkal találkozik, amelyeknek a célja nem a tanítás, hanem a minél hosszabb fogyasztás, akkor nem csoda, ha a tanulás és a valóság egyre kevésbé fedi egymást. A kérdés már nem az, hogy befolyásolnak-e minket az algoritmusok, hanem az, hogy hogyan tanuljuk meg felismerni és kordában tartani ezt a hatást, mielőtt az alakítja át végérvényesen a gondolkodásunkat. (2)

(1) - https://psycnet.apa.org/fulltext/2026
(2) - https://thedebrief.org/personalizatio