Nem kerülhet rossz kezekbe: Miért titkolja az Anthropic a legújabb MI-modelljét?

A mesterséges intelligencia fejlődése eddig egyfajta fegyverkezési versenynek tűnt, ahol a tech-óriások egymásra licitálva mutatták be egyre...

A mesterséges intelligencia fejlődése eddig egyfajta fegyverkezési versenynek tűnt, ahol a tech-óriások egymásra licitálva mutatták be egyre okosabb, gyorsabb és kreatívabb modelljeiket.

Az Anthropic, az iparág egyik meghatározó szereplője azonban most váratlan lépésre szánta el magát: kifejlesztettek egy olyan modellt, amely minden eddiginél hatékonyabb, mégis úgy döntöttek, hogy nem teszik elérhetővé a nagyközönség számára.

A Claude Mythos névre keresztelt rendszer ugyanis olyan képességekkel rendelkezik a kiberbiztonság területén, amelyek egyszerre jelenthetnek megváltást a szoftverfejlesztőknek és végzetes fegyvert a hackerek kezében.

A San Franciscó-i székhelyű startup keddi bejelentése rávilágított egy sötét igazságra: az MI elért egy olyan határvonalat, ahol a kódolási képességei már a legképzettebb emberi szakértőkét is felülmúlják. A Mythos nem csupán verseket ír vagy bonyolult matematikai egyenleteket old meg, hanem tűpontos precizitással tárja fel a szoftverek rejtett gyengeségeit.

A tesztelések során a modell több ezer olyan sebezhetőséget talált széles körben használt alkalmazásokban, amelyekről a fejlesztőknek fogalmuk sem volt. Volt olyan hiba, amely 27 éve lapult észrevétlenül a rendszerben, és olyan videószoftver is akadt, amelyet hiába teszteltek az alkotói több mint ötmillió alkalommal, a Mythos pillanatok alatt rámutatott a kritikus résre a pajzson.

Mike Krieger, az Anthropic Labs vezetője a San Franciscó-i HumanX AI konferencián egyértelművé tette: "Van egy új modellünk, amelyet kifejezetten nem hozunk nyilvánosságra." Ez a mondat ritka a Szilícium-völgyben, ahol a növekedés és a felhasználószám az isten. Az Anthropic döntése mögött azonban súlyos felelősségérzet áll.

Ha a Mythos kikerülne a szabadpiacra, azzal gyakorlatilag bárki kezébe egy olyan digitális faltörő kost adnának, amellyel kormányzati rendszerek, banki adatbázisok vagy a kritikus infrastruktúra is megdönthető lenne. A cég blogbejegyzése szerint a kockázat mértéke beláthatatlan: a gazdasági stabilitás, a közbiztonság és a nemzetbiztonság is veszélybe kerülhetne, ha a technológiát rosszindulatú célokra használnák fel.

Ahelyett, hogy a nagyközönségnek adnák oda, az Anthropic egy különleges szövetséget hozott létre, amelyet stílusosan "Glasswing" (Üvegszárny) projektnek neveztek el. Ebben a kezdeményezésben a kiberbiztonság legnagyobb szereplői – köztük a CrowdStrike és a Palo Alto Networks –, valamint olyan tech-óriások vesznek részt, mint az Amazon, az Apple és a Microsoft.

A cél az, hogy a Mythost védelmi fegyverként használják: a szakértők már azelőtt megtalálják és kijavítsák a szoftverhibákat, mielőtt a hackerek egyáltalán észrevennék azokat. Ahogy Krieger fogalmazott, ez egyfajta "megelőző fegyverkezés" a védelem oldalán.

A helyzet sürgősségét Anthony Grieco, a Cisco biztonsági igazgatója is megerősítette. Szerinte az MI képességei átléptek egy olyan küszöböt, amely alapjaiban változtatja meg a digitális infrastruktúra védelmét. Nincs többé visszaút.

A mesterséges intelligencia radikálisan felgyorsította az eseményeket: ami régen hónapokba telt egy hackernek – megtalálni egy rést, kifejleszteni a támadást és végrehajtani azt –, az az MI segítségével ma már percek alatt lezajlik. Ebben a felgyorsult világban a védelemnek is ugyanilyen sebességre van szüksége.

A Glasswing projektben mintegy 40 szervezet vesz részt, köztük a hálózati technológiák óriásai, a Cisco és a Broadcom, valamint a nyílt forráskódú szoftverek bástyája, a Linux Foundation. Az Anthropic nem aprózza el a támogatást: közel 100 millió dollár értékű számítási kapacitást bocsát a partnerek rendelkezésére, hogy a Mythos segítségével átfésüljék a globális szoftverkészletet. Ez a gigantikus összefogás jelzi, hogy a szakma felismerte: egyedül senki sem képes szembenézni az MI generálta új típusú fenyegetésekkel.

Érdekes mellékszála a történetnek az Anthropic és az amerikai kormányzat feszült kapcsolata. Bár a Fehér Ház februárban egy rendelettel elrendelte a startuppal való összes szerződés felbontását, a Mythos képességei miatt a párbeszéd nem szakadt meg. A tiltó határozatot jelenleg egy szövetségi bíró felfüggesztette, amíg a jogi procedúra lezajlik, de a kormányzatnak is be kell látnia: egy ilyen kaliberű technológiai áttörés mellett nem lehet elmenni szó nélkül, pláne, ha az a nemzetbiztonság alapjait érinti.

A Claude Mythos esete tökéletesen példázza az MI-korszak nagy dilemmáját. Teremtettünk valamit, ami okosabb nálunk, és ami képes kijavítani a hibáinkat, de ugyanezzel a lendülettel romba is döntheti a digitális civilizációnkat. Az Anthropic most úgy döntött, hogy a zsenit a dobozban tartja, és csak a legmegbízhatóbb őröknek enged bepillantást.

A kérdés már csak az, hogy meddig tartható fenn ez az állapot, és vajon a "másik oldal" mikor fejleszti ki a saját, korlátok nélküli Mythosát. A verseny már nem a funkciókról szól, hanem a túlélésről a kódok világában. (1)

(1) - https://www.theguardian.com/technology/