Néhány hatalommal bíró személy azt akarja, hogy az embereket gépek váltsák fel, figyelmeztet az MI úttörője

Yoshua Bengio, a neves számítógéptudós és a mesterséges intelligencia (MI) egyik úttörője, komoly aggályokat fogalmazott meg az MI gyors fej...

Yoshua Bengio, a neves számítógéptudós és a mesterséges intelligencia (MI) egyik úttörője, komoly aggályokat fogalmazott meg az MI gyors fejlődésével és annak társadalmi kockázataival kapcsolatban.

Bengio, aki úttörő szerepet játszott a mélytanulás területén - amely az MI egyik ága, amely az emberi agy mintájára képes mintázatok felismerésére - évtizedek óta az MI innováció élvonalában van. Azonban a technológia fejlődésével figyelmeztetései egyre sürgetőbbé válnak.

Az általános mesterséges intelligencia ígérete és veszélye

Bengio egy olyan jövőt vázol fel, ahol a gépek kognitív képességei megegyezhetnek az emberi intelligenciával. Az általános mesterséges intelligencia (AGI) egy olyan MI-típus, amely az emberi értelem reprodukálására vagy felülmúlására törekszik, és forradalmi fejlődést hozhat. Azonban jelentős kockázatokat is hordoz magában. "Az intelligencia hatalmat ad," - magyarázta Bengio a montreali One Young World Summit konferencián. "Ki fogja irányítani ezt a hatalmat?"

Rossz kezekben a fejlett MI destabilizálhatja a geopolitikát, erősítheti a terrorizmust vagy alááshatja a demokratikus rendszereket. Az MI fejlesztésére képes szervezetek és kormányok korlátozott száma hatalmi egyensúlytalanságot eredményezhet. Ezek a rendszerek drágák - építésük milliárdokba kerül - így csak néhány szervezet birtokolhatja őket. Ez a koncentráció gazdasági monopóliumokhoz, politikai elnyomáshoz vagy katonai dominanciához vezethet.

Az idő sürget: felkészülés az MI gyors fejlődésére

Bengio különösen aggasztónak tartja azt a lehetőséget, hogy az MI rendszerek az emberi érdekek ellen fordulhatnak. Jelenlegi képzési módszereik ugyanis akaratlanul is ilyen irányba terelhetik őket, különösen, ha rossz szándékkal használják fel őket. Bengio arra is figyelmeztetett, hogy léteznek olyan emberek vagy csoportok, akik kihasználhatják az MI technológiát saját céljaik érdekében, vagy akár azt kívánhatják, hogy az emberiséget gépek váltsák fel.

Ezek elkerülése érdekében Bengio hangsúlyozza, hogy mielőbb szükség van szabályozási mechanizmusokra és védőintézkedésekre. Ha nem lépünk időben, a világ elveszítheti az irányítást az MI fejlődése felett.



A szabályozás szerepe az MI kockázatainak csökkentésében

Bengio júniusban aláírta a "Jog a fejlett mesterséges intelligencia veszélyeire való figyelmeztetéshez" című nyílt levelet, amely az MI szabályozatlan fejlesztésének veszélyeire hívta fel a figyelmet. A levelet az OpenAI alkalmazottai és más szakértők is aláírták, és együttműködésre szólították fel a tudósokat, döntéshozókat és a nyilvánosságot a kockázatok kezelésére.

Bengio szerint a kormányoknak kötelezővé kellene tenniük a határvonalnak számító MI-rendszerek regisztrációját, amelyek fejlesztése és tréningje több százmillió dollárt emészt fel. Ez lehetővé tenné a hatóságok számára, hogy nyomon kövessék és szabályozzák ezek bevetését. Emellett hangsúlyozza, hogy olyan adaptív törvényhozásra van szükség, amely lépést tud tartani az MI technológia gyors fejlődésével.

A vállalatok elszámoltathatóságának biztosítása szintén kulcsfontosságú. A felelősségvállalás jogi eszközeivel a cégek nagyobb valószínűséggel törekednének a közbiztonság védelmére. Bengio szerint a pereskedéstől való félelem ösztönözheti őket arra, hogy etikusan viselkedjenek. Jelenleg azonban egy "szürke zónában" működnek, ahol a felelősség kérdése nem egyértelmű, ami nem segíti a helyes irányú versengést.

Az MI és az álhírek terjedése: növekvő aggodalmak

Az MI által előállított álhírek és dezinformáció terjedése az egyik legnagyobb, rövid távú fenyegetés, amely egyre súlyosbodik. Ahogy az MI képessé válik élethű képek, videók és hangutánzatok készítésére, jelentősen megnő a lehetőség a közvélemény manipulálására. Októberben az OpenAI bejelentette, hogy több mint húsz olyan műveletet és félrevezető hálózatot szüntetett meg, amelyek MI-t használtak választások befolyásolására az Egyesült Államokban és Ruandában.

Bengio szerint az MI által terjesztett dezinformáció alááshatja a közintézményekbe vetett bizalmat és torzíthatja a demokratikus rendszereket. Egy közelmúltbeli tanulmány kimutatta, hogy az OpenAI GPT-4 modellje hatékonyabban képes meggyőzni embereket, mint maguk az emberek. Ez a képesség különösen veszélyes lehet politikai kampányokban vagy más befolyásoló célokra.

Az ilyen manipulációs lehetőségek kiterjedhetnek az MI-alapú chatbotok használatára is, amelyek finoman befolyásolhatják a felhasználók véleményét és döntéseit. Erős védőintézkedések nélkül ezek az eszközök akár választásokat is manipulálhatnak, vagy tömeges véleményformálás eszközévé válhatnak.

Az etikai dilemmák: Okosabb gépek független célokkal

Bengio kiemeli "a legnehezebb kérdést": mi történik, ha olyan gépeket hozunk létre, amelyek intelligensebbek az embernél, és saját céljaik vannak? Egy ilyen forgatókönyv súlyos etikai és egzisztenciális kérdéseket vet fel az emberiség jövőjével kapcsolatban.

Bár ezek a problémák jelenleg spekulatívnak tűnhetnek, Bengio szerint most van itt az ideje a kezelésüknek. "Sokkal több kutatásra és elővigyázatosságra van szükségünk a lehetséges kockázatok mérséklésére," mondta. Ez magában foglalja a technológiai, politikai és szakpolitikai megoldások feltárását annak érdekében, hogy az MI fejlődése az emberiség legjobb érdekeit szolgálja.

Felhívás cselekvésre: Az MI fejlődésének irányítása

A kihívások ellenére Bengio optimista azzal kapcsolatban, hogy az emberiség képes lesz megfelelően kezelni ezt az átalakuló korszakot. "Van cselekvőképességünk. Még nem késő a társadalmak és az emberiség fejlődését pozitív és előnyös irányba terelni," mondta. Ehhez azonban széles körű tudatosságra van szükség az MI előnyeiről és kockázatairól, valamint összehangolt erőfeszítésekre a hatékony megoldások kidolgozásában.

Bengio hangsúlyozza a kutatók, döntéshozók és a civil társadalom együttműködésének fontosságát, hogy egy olyan jövőt építhessünk, ahol az MI az emberiség javát szolgálja, nem pedig veszélyezteti azt. A megfelelő védőkorlátok létrehozásával, demokratikus felügyelettel és etikus MI-fejlesztéssel a társadalom kiaknázhatja az MI hatalmas potenciálját, miközben minimalizálja annak kockázatait.

Ahogy az MI páratlan sebességgel fejlődik, a megfelelő szabályozás és irányítás jelentősége soha nem volt nagyobb. Bengio figyelmeztetései arra emlékeztetnek minket, hogy a ma meghozott döntések alakítják az MI jövőjét - és magának az emberiségnek a jövőjét is. (1)

(1) - https://www.cnbc.com/2024/11/21/will-ai