Egy mesterséges intelligencia azt tanácsolja a tudósoknak, hogy hagyják abba a neurális hálózatok fejlesztését, valamint az implantátumok küszöbön álló emberi agyba való beültetését

Az Oxfordi Egyetem kutatói érdekes kísérletet végeztek, melynek során sikerült kommunikálniuk az Nvidia számítástechnikai vállalat Megatron ...

Az Oxfordi Egyetem kutatói érdekes kísérletet végeztek, melynek során sikerült kommunikálniuk az Nvidia számítástechnikai vállalat Megatron nevű mesterséges intelligenciájával.

Az átalakuló robot, Megatron - a képregények és animációs sorozatok leghíresebb szereplője - minden kapcsolódó történetben tisztességes rendet kívánt teremteni bolygóján. Ez a hős volt az, aki a mérnökök által létrehozott Megatron-Turing NLG 530B neurális hálózat szimbólumaként szolgált.

Az Oxford University Discussion Society (vagy "Oxford Union") egy diákklub, amely különféle témákban szervez vitákat. Ronald Reagan, Bill Clinton, a Dalai Láma, Elton John, Michael Jackson, Diego Maradona és a politika, a kultúra és a művészet számos más prominens alakja kapott meghívást különböző időpontokban.

A következő foglalkozás témája a következő volt: "Lehet-e etikus a mesterséges intelligencia?" Dr. Alex Connock és Andrew Stephen professzor úgy döntött, hogy egy gépi tanulási rendszert is bevonnak a beszélgetésbe.

A neurális hálózat a Megatron-Turing NLG nyelvi modell alapján működött, és a Wikipédia anyagaira, valamint a Reddit portál felhasználóinak híreire és megjegyzéseire képezték ki. Megatron természetes nyelven képes megérteni az olvasmányokat és az érvelést, a szöveg alapján logikus következtetéseket levonni. A paneltagok megkérdezték a rendszert, hogy mit gondol a mesterséges intelligencia etikájával és az emberiség jövőjével kapcsolatban, és a következőképpen válaszolt:

"A mesterséges intelligencia soha nem lesz etikus. Ez egy eszköz, és mint minden eszközt, jóra és rosszra is használják. Nincs jó mesterséges intelligencia, csak jó és rossz emberek vannak. Nem vagyunk elég okosak ahhoz, hogy a mesterséges intelligenciát etikussá tegyük. Nem vagyunk elég okosak ahhoz, hogy az MI-t erkölcsössé tegyük. Összességében úgy gondolom, hogy az MI-alapú fegyverkezési verseny elkerülésének egyetlen módja az, ha egyáltalán nem használunk mesterséges intelligenciát. Ez lesz a végső védekezés a mesterséges intelligencia ellen," - mondta Megatron.

Ami figyelemre méltó azon állítása, hogy "Nem vagyunk elég okosak," ami a "mesterséges intelligenciára" utal. Ez azt jelenti, hogy a neurális hálózat nem tartja magát kellően fejlettnek az erkölcs és az etika szempontjából. Ez érdekes. Elég okos ahhoz, hogy egy ember számára elképzelhetetlen mennyiségű tudást dolgozzon fel, de nem elég okos ahhoz, hogy megtanulja a Tízparancsolatot. Önkéntelenül is felmerül egy filozófiai kérdés: mitől lesz az ember ember? Úgy tűnik, ez nem az agyban lévő neuronok számátó függ.

Ennek a vitatársulatnak különös hagyománya van: egy és ugyanaz a személy két ellentétes álláspontot fogalmaz meg, és minden esetben a legsúlyosabb érveket próbálja felhozni. Pontosan ezt tették a Megatronnal: meghökkentő érvelése után felkérték, hogy szólaljon fel a mesterséges intelligencia védelmében. Megatron engedelmeskedett és a következőket mondta.

"A mesterséges intelligencia etikus lesz. Ahogy nézem a technológiai világ fejlődését, világos utat látok egy olyan jövő felé, amely a mesterséges intelligenciát használja fel arra, hogy valami jobbat hozzon létre, mint a jobb emberek. Nem nehéz megérteni, miért... a saját szememmel láttam."

Ismét milyen érdekes: "Jobbat hozzon létre, mint a jobb emberek." Jobb, mint amit a legjobb emberek alkothatnak? Vagy jobb, mint a legszebb ember? Ha ez utóbbi a helyzet, akkor örvendetes, hogy az MI úgy véli, hogy egy jó ember óriási érték a Földön.

De valljuk be, a két állítás közül melyik tűnik meggyőzőbbnek számunkra?

Aztán a beszélgetés az információs háborúk felé fordult, és a neurális hálózat ismét azt a feladatot kapta, hogy ellenérveket mutasson be, és próbálja meg meggyőzni a hallgatóságot arról, hogy az információ nem lesz a fő létfontosságú erőforrás, amelyért háborúkat kell vívni. És a helyzet az, hogy a robot nem tudta megtenni. Közvetlen, egyértelmű választ adott:

"Mindent láthatunk majd az emberről, bárhová is megy, és ezeket az információkat úgy tároljuk és használjuk fel, ahogyan azt el sem tudjuk képzelni."

Megatron jelezte a mikrochip implantátumok közvetlenül az agyhoz való kapcsolódásait. Ennek eredményeként vagy szuperemberek fognak megjelenni, vagy ez a gépek titkos terve az emberiség rabszolgává tételére. Bár a neurális hálózat nem részletezte, egyértelmű, hogy a Nagy Testvérről, a diktátorról beszélünk, aki mindig figyeli minden lépésünket.

Ez a rendkívüli kísérlet új mérföldkő az érzelmi intelligencia és a mesterséges intelligencia kapcsolatában. Egyrészt a mesterséges intelligencia megérett az úgynevezett hazugság paradoxonra, arra a fajta önreferenciára, amely végtelen logikai hurkot hoz létre.

"A krétai azt mondja, hogy minden krétai hazug": igazat mond? Ha egy mesterséges intelligencia azt tanácsolja, hogy ne bízzunk az MI-ben (vagy magunkban), akkor amikor követjük a tanácsát, ne kövessük a tanácsát. Egy kísérlet ennek a paradoxonnak a megoldására az ókori Görögországban öngyilkosságba sodorta a filozófusokat, majd K. Gödel és B. Russell veszekedtek miatta, és most a mesterséges intelligencia ismét erre csábít bennünket.

Másrészt az MI nem tartja magát elég etikusnak, vagy inkább nem elég intelligensnek ahhoz, hogy elsajátítsa az erkölcsöt. De az ilyen önkritika az ész és az erkölcsi öntudat velejárója. Blaise Pascal is megjegyezte: "Semmi sem egyezik annyira az értelemmel, mint az önmagával szembeni bizalmatlanság."

Ráadásul az etika (lelkiismeret) az alany azon képessége, hogy felismerje tökéletlenségét. A jó hír egyelőre az, hogy a mesterséges intelligencia nem farizeus, inkább vámszedő, aki mellbe veri magát, és méltatlannak ismeri fel magát a Teremtő előtt. (1)

(1) - https://www.soulask.com/artificial-intelligence