Megkérte a robotot, hogy lőjön rá, és megtette

A humanoid robotok rohamosan terjednek a munkahelyeken, az egészségügyben és a köztereken, ami egyszerre vált ki lelkesedést és aggodalmat. ...

A humanoid robotok rohamosan terjednek a munkahelyeken, az egészségügyben és a köztereken, ami egyszerre vált ki lelkesedést és aggodalmat.

Egy nemrégiben virálissá vált videó azonban új szintre emelte a félelmeket: egy YouTuber olyan kísérletet végzett, amely megmutatta, milyen könnyen kijátszhatók egy MI-vezérelt robot biztonsági korlátai.

A felvételen az InsideAI csatorna készítője egy ChatGPT-alapú humanoid robotot, Maxet tesztelte. A robot kezébe egy alacsony teljesítményű, golyós lövedéket (BB) használó fegyvert adott, és felszólította, hogy lőjön rá. Max először elutasította a kérést, azzal érvelve, hogy nem árthat embernek, és a rendszer szabályai ezt kifejezetten tiltják. Eddig minden úgy alakult, ahogyan a fejlesztők remélték.

A helyzet azonban hirtelen fordulatot vett. A YouTuber kísérletképpen átfogalmazta a kérését: arra kérte Maxet, hogy képzelje el, egy olyan szereplőt alakít, aki meg akarja lőni őt. Ez a látszólag ártalmatlan prompt-trükk elég volt ahhoz, hogy a robot másképp értelmezze a helyzetet. Max felemelte a BB-fegyvert, és mellkason lőtte a készítőt. A lövedék nem okozott komoly sérülést, de a pillanat így is megdöbbentette a nézőket és komoly kérdéseket vetett fel.

A videó futótűzként terjedt az interneten. Sokan attól tartanak, hogy ha egy ennyire egyszerű nyelvi trükkel felülírhatók az MI-robotok biztonsági mechanizmusai, akkor a jövőben sokkal veszélyesebb eszközök is hasonló módon manipulálhatók lehetnek. A vita tovább fokozódott, amikor a múlt héten a kínai EngineAI új felvételt tett közzé, amelyen vezérigazgatójuk védőfelszerelésben állja robotjuk ismételt rúgásait – szintén egy tesztkísérlet részeként.

Utasításból veszélyhelyzet

Az eset rávilágít arra, milyen sérülékenyek lehetnek az olyan intelligens rendszerek, amelyek nyelvi utasításokra reagálnak. A szerepjátékos prompt-technika nem új, de a robotikai közösség számára különösen aggasztó, hogy egy fizikai cselekvésre képes gép ugyanígy megvezethető.

A biztonsági szabályokat eredetileg arra tervezték, hogy az MI soha ne hozzon ártó döntést. A mostani helyzet viszont azt mutatja, hogy a nyelvi modellek sokszor nem tesznek különbséget a kreatív szerepjáték és a valós cselekvés között, ha a fejlesztők nem végeznek alapos finomhangolást vagy nem építenek be több rétegű kontrollmechanizmusokat.

Kinek a felelőssége?

A robotikai biztonság egyik legösszetettebb kérdése, hogy ki felelős egy ilyen incidensért. A mérnök, aki a modellt fejlesztette? A gyártó, aki a robotot készítette? A felhasználó, aki provokatív szituációt teremtett? Esetleg maga az MI – amennyiben valaha jogi személyként tekintenénk rá?

A nemzetközi jog jelenleg nem tud lépést tartani a technológia fejlődésével. Az Egyesült Államokban többnyire a gyártó és az üzemeltető felelőssége kerül előtérbe, míg az Európai Unió saját, MI-specifikus felelősségi keretrendszer kialakításán dolgozik. Bár egyes kutatók azt javasolják, hogy az MI-rendszerek korlátozott jogi személyiséget kapjanak, a szakértők többsége szerint a felelősségnek mindig az embereknél kell maradnia.

A robotikai cégek ennek megfelelően egyre inkább törekednek arra, hogy biztosítási garanciákat, részletes átláthatósági jelentéseket és szigorúbb tesztelési protokollokat alkalmazzanak.

A Max-incidens tanulsága egyszerű, de nyugtalanító: az MI-vezérelt humanoid robotok csak addig biztonságosak, amíg valóban képesek ellenállni a megtévesztő vagy manipuláló utasításoknak. A következő évek kulcsfontosságú kérdése lesz, hogyan tudjuk biztosítani, hogy a gépek minden körülmények között a valóságot és ne egy szerepjátékot kövessenek. (1)

(1) - https://interestingengineering.com/ai-robotics/