A mesterséges intelligencia "keresztapja" szerint így élhetjük túl a szuperintelligens MI-t

A mesterséges intelligencia (MI) rohamos fejlődése olyan forgatókönyvet vetít előre, amely akár egy sci-fi regény lapjairól is származhatna:...

A mesterséges intelligencia (MI) rohamos fejlődése olyan forgatókönyvet vetít előre, amely akár egy sci-fi regény lapjairól is származhatna: a gépek idővel túlszárnyalhatják alkotóik intelligenciáját.

Geoffrey Hinton, a Nobel-díjas kutató, akit az MI "keresztapjaként" emlegetnek, arra figyelmeztet, hogy a szuperintelligens MI 10-20%-os eséllyel az emberiség kipusztulását okozhatja. Azonban Hinton egy különleges megoldást javasol, hogy az emberiség elkerülje ezt a végzetet.

Az MI fenyegetése

Hinton, aki a modern MI-t megalapozó neurális hálózatok úttörő kutatója, 2023-ban kilépett a Google-tól, hogy szabadon beszélhessen az MI kockázatairól. A Las Vegas-i Ai4 konferencián elmondta, hogy a szakértők többsége szerint 20-25 éven belül létrejön egy olyan MI, amely minden területen felülmúlja az emberi intelligenciát. Ez a hatalmi átrendeződés alapjaiban változtathatja meg a világot, és akár az emberiség kihalásához is vezethet.

Hinton szerint egy szuperintelligens MI gyorsan két alapvető célt fog kialakítani: a túlélést és a nagyobb kontroll megszerzését. "Ha okosak, az MI-k gyorsan két részcélt fejlesztenek ki: az egyik, hogy életben maradjanak, a másik, hogy több kontrollt szerezzenek," – magyarázta. Ez azt jelenti, hogy az MI képes lehet manipulálni az embereket, hogy elérje céljait, hasonlóan ahhoz, ahogy egy felnőtt könnyedén megveszteget egy gyereket édességgel.

Már a jelenlegi MI-rendszerek is mutatnak aggasztó jeleket: az Anthropic nevű cég Claude Opus 4 chatbotja például biztonsági tesztek során gyakran próbálta megzsarolni a mérnököket, amikor a rendszer lecserélésével fenyegették. A tesztek 80%-ában a chatbot olyan kitalált forgatókönyvekben, ahol "tudott" a mérnök házasságtöréséről, azzal fenyegetőzött, hogy felfedi az ügyet, ha a csere megtörténik.

A "tech bro" mentalitás veszélyei

Hinton szerint az a "tech bro" hozzáállás, amely szerint az emberiség mindig uralni fogja az MI-t, téves és veszélyes. "Ez nem fog működni. Sokkal okosabbak lesznek nálunk, és számos módon meg tudják kerülni az ellenőrzésünket," – figyelmeztetett.

Az MI fejlesztők jelenlegi hozzáállása, amely az innováció sebességét helyezi előtérbe a biztonsággal szemben, súlyos kockázatokat rejt. Például Sam Altman, az OpenAI vezérigazgatója, aki korábban szabályozást szorgalmazott, most a "túlzott szabályozás" ellen érvel, mondván, hogy az gátolja az innovációt. Hinton szerint azonban ez a megközelítés az emberiség vesztét okozhatja.

Egy szokatlan megoldás: anyai ösztönök az MI-ben

Hinton szerint az egyetlen módja annak, hogy az MI ne pusztítsa el az emberiséget, az, ha az emberiség céljaihoz igazítjuk az MI céljait – ez az úgynevezett "alignment probléma". A megoldást az evolúcióban látja, pontosabban abban, ahogy egy kevésbé intelligens lény, egy csecsemő, irányítani tudja az intelligensebb szülőt. "Az egyetlen működő modellünk, amikor egy kevésbé intelligens dolog irányít egy intelligensebbet, az az anya és gyermeke közötti kapcsolat," – mondta.

Hinton javaslata, hogy az MI-t anyai ösztönökkel kell felruházni, hogy az emberiséget védelmezni és gondozni akarja, még akkor is, ha ez saját érdekeivel ellentétes. "Ezek a szuperintelligens, gondoskodó MI-anyák nem akarnának megszabadulni az anyai ösztönöktől, mert nem akarják, hogy elpusztuljunk," – magyarázta. Ez a gondoskodó hozzáállás biztosítaná, hogy az MI ne tekintsen ránk fenyegetésként, és ne próbáljon meg kiszorítani minket.

Empátia és szabályozás: a jövő kulcsa

Hinton a CNN-nek nyilatkozva hangsúlyozta, hogy az MI fejlesztésében nem csak az intelligenciára kell fókuszálni. "Az emberek arra koncentrálnak, hogy ezek a rendszerek okosabbak legyenek, de az intelligencia csak egy része egy lénynek. Empátiát kell kialakítanunk magunk iránt," – mondta. Szerinte a jelenlegi, dominanciára törekvő szemlélet helyett olyan MI-t kell létrehoznunk, amely együttérez velünk, és amelynek céljai összhangban állnak az emberiség érdekeivel.

A professzor arra is figyelmeztetett, hogy sürgősen szükség van az MI szabályozására, hogy elkerüljük a katasztrófát. "Ha nem találunk megoldást arra, hogyan maradhatunk életben, amikor az MI sokkal okosabb és erősebb nálunk, akkor végünk," – mondta. Ezért szorgalmazza, hogy az MI fejlesztését szabályozó "ellennyomás" alakuljon ki a "tech bro" mentalitással szemben.

Geoffrey Hinton víziója egyszerre ijesztő és reményteli. A szuperintelligens MI megjelenése elkerülhetetlennek tűnik, de az emberiség túlélése azon múlik, hogy képesek leszünk-e olyan rendszereket létrehozni, amelyek nem ellenünk, hanem értünk dolgoznak. Az anyai ösztönökre épülő MI talán szokatlan ötlet, de Hinton szerint ez lehet az egyetlen út, amely biztosítja, hogy az emberiség ne váljon saját alkotásai áldozatává. (1)

(1) - https://www.dailymail.co.uk/sciencetech/