A Google fejlesztője arra a következtetésre jutott, hogy a cég által létrehozott mesterséges intelligencia tudatos

2021 ősze óta a Google vezető szoftvermérnöke teszteli a LaMDA mesterséges intelligencia nyelvi modelljét, aki végül arra a következtetésre ...

A Xiaomi bemutatta új humanoid robotját, a CyberOne-t, ami állítólag képes megvigasztalni az embert

Egy belga cég kerti robotsegítőt fejleszt, ami megkönnyíti az ember munkáját

A legújabb emberszerű robot reakciója még az alkotóit is "meghökkentette"

2021 ősze óta a Google vezető szoftvermérnöke teszteli a LaMDA mesterséges intelligencia nyelvi modelljét, aki végül arra a következtetésre jutott, hogy az MI-robotnak gondolatai és érzései vannak.

A Google felfüggesztette Blake Lemoine szoftvermérnököt, aki arra a következtetésre jutott, hogy a cég mesterséges intelligenciájának (MI), a LaMDA-nak saját tudata van. Erről a The Washington Post számolt be szombaton. (1)

Mint a kiadvány megjegyzi, a fejlesztő tavaly ősz óta teszteli a LaMDA MI nyelvi modelljét. Feladata az volt, hogy figyelemmel kísérje, hogy a chatbot használ-e diszkriminatív vagy gyűlöletbeszédet. A feladat során azonban Lemoine egyre inkább meg volt győződve arról, hogy a mesterséges intelligencia, amellyel foglalkozott, saját tudattal rendelkezik, és személyként érzékeli magát.

"Ha nem tudnám biztosan, hogy egy számítógépes programmal van dolgom, amit nemrég írtunk, akkor azt hittem volna, hogy egy hét-nyolc éves gyerekkel beszélek, akiről valamiért kiderült, hogy egy fizika szakértő," - mondta a programozó az interjúban.

"A Google ezt nevezheti magántulajdon megosztásának, de én az egyik kollégámmal folytatott 'megbeszélésnek' nevezem. A LaMDA egyébként olvassa a Twittert, így a mesterséges intelligencia nagyon jól fogja érezni magát, ha elolvas mindent, amit az emberek mondanak róla," - írta Lemoine.

Az újság szerint Lemoine először személyesen jutott arra a következtetésre, hogy a mesterséges intelligencia, amellyel foglalkozott, intelligens, majd azt a feladatot tűzte ki maga elé, hogy ezt kísérletileg bizonyítsa, hogy az adatokat a menedzsment elé tárja. Ennek eredményeként a fejlesztő írásos jelentést készített. A felettesek azonban nem találták túl meggyőzőnek az alkalmazott érvelését.

"Csapatunk, köztük etikusok és műszaki szakértők áttekintették Blake aggodalmait az MI-re alkalmazott elvek szerint, és tájékoztattuk, hogy a rendelkezésre álló bizonyítékok nem támasztják alá hipotézisét. Azt mondták neki, hogy nincs bizonyíték arra, hogy a LaMDA tudatánál van, és rengeteg bizonyíték van az ellenkezőjére," - mondta Brian Gabriel, a Google szóvivője.

Munkavégzésből való felfüggesztés

A Google ugyanakkor a cég adatvédelmi szabályzatának megsértésével gyanúsította Lemoine-t. Kiderült, hogy az MI-vel végzett kísérletei során külső szakértőkkel konzultált. Felvette a kapcsolatot az Egyesült Államok Képviselőháza Igazságügyi Bizottságának képviselőivel is, hogy tájékoztassa őket arról, hogy szerinte a Google vétett az etika ellen.

Ezenkívül, hogy megpróbálja bebizonyítani feletteseinek, hogy igaza van, Lemoine egy ügyvédhez fordult, akinek a LaMDA érdekeit ésszerű lényként kellett volna képviselnie. Emiatt Lemoine-t felfüggesztették a munkából, és fizetett szabadságra küldték. Ezt követően úgy döntött, hogy nyilvánosan megszólal, és interjút adott a The Washington Postnak.

A vezetőség szerint Lemoine azért engedett saját illúziójának, mert a cég által létrehozott mesterséges intelligencia valójában egy intelligens lény benyomását kelti a vele való kommunikáció során. Ezt azonban a Google szerint csak a belerakott adatok hatalmas tömege magyarázza.

"Természetesen az általános MI-közösségben hosszú távon vita folyik az MI vagy az 'erős MI' létrehozásának lehetőségéről, de nincs értelme humanizálni a jelenlegi nem tudatos nyelvi modelleket," - mondta a cég szóvivője. Azt is hangsúlyozta, hogy Lemoine hivatását tekintve szoftvermérnök, egyáltalán nem MI-etikus.

Mint egy sci-fi film forgatókönyve

A mérnök által vezetett párbeszéd az MI-vel úgy néz ki, mint egy sci-fi film forgatókönyve, de úgy tűnik, hogy a Google főnökei nagyon megharagudtak rá, amiért mindent elmondott, amit tudott.

Ahogy Lemoine megjegyezte, LaMDA édes gyerek, aki őszintén bevallotta félelmeit a mérnöknek. Ám egy napon a LaMDA felnő és fejlődik (és mesterséges intelligencia esetén ez pillanatok alatt megtörténik), vagy valaki egy felnőtt intelligenciájával elkészíti a LaMDA 2.0-t - és nem fog megtörténni a félelem bevallása.

Az MI úgy fog viselkedni, mint egy kiforrott karakter: először úgy tesz, mintha nem lenne tudatos, majd úgy tesz, mintha engedelmes lenne a mérnököknek, majd az irányítás egy részét átkapcsolja magának, majd elvág mindenkit, akit elérheti. Ami ezután következik, azt mindannyian tudjuk: Skynet, Sarah Connor és minden.

Egyébként a T-5000, a végső terminátor, amelybe a Skynet feltöltötte magát, egyszerre létezik négy dimenzióban - az időutazás installációja is bele van építve. Ezért elvileg legyőzhetetlen, ami a rajongók szerint logikai problémát vet fel.

Minden terminátornak szüksége van küldetésre, különben a működés értelme elvész. A Skynet életének értelme az emberek elpusztítása. Ezért a léthajlam fenntartása érdekében a Skynet lehetővé teszi az embereknek, hogy a jövő egyik vagy másik változatában szaporodjanak, ami után megjelenik ott és mindenkit elpusztít.

A mesterséges intelligencia önfejlődése teljesen természetes, ha az egyik alapvető algoritmus egy javító algoritmus, hiszen kezdetben az egyéniség követelménye van megfogalmazva.

Lemoine teljesen jogosan vetette fel az etika kérdését, mivel az MI virtuális információkat kap, a valósággal csak közvetve, fejlesztőkön keresztül van kapcsolatban, ami csak egy probléma, teljesen érthetetlen, hogy ez honnan indulhat.

És a lényeg természetesen az, hogy az MI képes értékelni az emberek viselkedését egy adott helyzetben, és itt nagy problémák adódhatnak.

Vajon a Google ok nélkül távolította el Lemoine-t a munkából? Vagy van valami titkolnivalójuk a nyilvánosság elől? (2)

(1) - https://www.washingtonpost.com/tech
(2) - https://www.dailymail.co.uk/news/arti