Ajánló: Könnyen egy utópisztikus rémálomban találhatjuk magunkat, ha nem tartjuk kordában a mesterséges intelligenciát

Harari és Tegmark már a podcast legelején a „mély vízbe” ugranak, amikor arról folyik a diskurzus, hogy vajon az emberiség egyáltalán milyen ismereteket adhat át a mesterséges intelligenciának, annak betanítása során. Az emberiség ugyanis – mutat rá Harari – csakis az emberhez kötődő tapasztalatokkal szolgálhat, s ez a lét megtapasztalásának korántsem az egyetlen módja.

Mindez különös módon a gasztronómián keresztül érzékeltethető leginkább. Mindaddig ugyanis, amíg egy kutatás arra az eredményre nem jutott, hogy például a homár élve megfőzése az állatnak tényleges kínokat okoz, a konyhák számára magától értetődő volt, hogy menün tartsa az ételt. A kutatást megelőzően a gasztronómiai szakértők szerint a homár gond nélkül megfőzhető volt élve is, mivel mindenki úgy gondolta, hogy a homár szervezete alkalmatlan a kínok átélésére. A paradigmaváltást jól jelzi, hogy Svájc például már nem engedi a homár élve megfőzését.

De hogy jön ide a mesterséges intelligencia? Az MI-vel kapcsolatban az emberiség nagy elvárása, hogy hús-vér embereket helyettesít például az elemzések, vagy ami még súlyosabb, a döntéshozatal során, csakhogy

valahányszor meghozunk egy döntést, nemcsak az intelligenciánk, hanem az érzelmi világunk is dolgozik. Érzelmet pedig – legalábbis egyelőre – nem igazán tudunk megtanítani azoknak a gépeknek, amelyek a matematikai számítások elvén működnek. Valahányszor tehát, ha a mesterséges intelligenciától döntést várunk, akkor azt rideg matematikai számítások alapján hozza majd. Csakhogy hogy is várhatnánk azt a mesterséges intelligenciától, hogy a természetre közvetlen hatást kifejtő döntéseit akár érzelmek alapján is meghozza, amikor maga az ember sem ismeri az olyan élőlények érzelmi világát, mint akár a homár? – veti fel a kérdést Tegmark.

Harari szkeptikus e tekintetben. Nem kizárható ugyanis, hogy az emberiség, eljövendő kutatásai során sikeresen tárja fel majd az érzelmi világ biokémiai vetületeit, azonban erre a tudomány még nem eléggé felkészült, és csak egy szeletét ismeri a problematikának. Harari azt sugallja, hogy erre talán az emberiség sosem lesz képes, mivel – ahogy erre a homár példája is rávilágított – a világot csakis emberként szemlélhetjük, ez faji sajátosság.

Tegmark – elfogadva az emberiség eredendően beszűkült lehetőségeit e körben – ezért nem is a mesterséges intelligenciában látja a megoldást, hanem szerinte sokkal inkább az emberiségnek (és csakis a hús-vér embereknek) az a feladata, hogy rövid földi életét és vagyonát annak szentelje, hogy a jövőt élhetővé tegye az élővilág számára. Ennek jegyében indította útjára az Effective Altruism (Hatékony Altruizmus) elnevezésű projektjét, ami csak részben működik a filantrópia jegyében, mindemellett célkitűzései között az állatkínzás és annak megfékezése azonosítható, hogy az általunk ismert élővilág még véletlenül se essen a technológiai fejlődés áldozatául.

A technológiai fejlődés természetesen Tegmark szerint sem szükségszerűen rossz, a mértéktartás ugyanakkor nem hangsúlyozható eléggé. Tegmark példaként a biológia fegyverkezést hozza fel: a 20. század során a biológia talán a technológiánál is nagyobb fejlődésen ment keresztül, s ez ott csúcsosodott ki, hogy a biológiai kutatások eredményei ma már könnyűszerrel használhatók fel fegyverkezésre is. Csakhogy a kor biológusai kellő mértéktartással arra figyelmeztették az állami vezetőket, hogy a biológiai fegyverkezés beláthatatlan veszélyeket rejt az általunk ismert élővilág számára, így a politikusok és a hadügyi szakértők jobb belátásra térve döntést hoztak arról, hogy a biológiai fegyverek használata még totális háború esetén is tilos.

A 20. század tanulságairól történészként Harari is megemlékezik. Ahogy arról több könyvében is írt, az embereknek szükségük van a grandiózus narratívákra. A liberalizmus, annak felvilágosodásbeli gyökereivel a 20. század legsikeresebb narratívájának tekinthető, ugyanakkor két évtizeddel hátunk mögött már bizonyosan látszik, hogy ez a történet a 21. századra kifulladt. Ez a kortünet az embereket nosztalgiára sarkallja, ugyanakkor azok a történetek, amelyek hajdan sikeresek voltak, és amelyek pillanatnyilag kielégítették az emberiség igényeit, ma vagy vállalhatatlanok, vagy pedig eredeti formájukban megismételhetetlenek. Éppen ezért

Tegmark azon felvetésére, hogy legalább ki tudjuk-e ma jelölni a következő narratíva irányvonalait, arra Harari egyértelmű nemleges választ ad amiatt, mert az igazán sikeres történeteket, amelyekkel az emberek organikus módon azonosultak, az emberi és társadalmi fejlődés és a szükségszerűség termelte ki. A történész azonban leszögezi:

A technológiai fejlődés ugyanis ma ott tart, hogy az emberi szervezet egyre mélyebben válik „meghekkelhetővé”, gondoljunk csak akár a génszerkesztésre, vagy a pszichés működésünket célzó marketingstratégiákra. Agyunk ma folyamatos túlterhelés alatt áll, és könnyen a pszichográfián alapuló reklámok, vagy akár az álhírek áldozatává válhatunk. Ez azonban nemcsak emberi mivoltunk kiteljesedésében korlátoz bennünket, hanem a társas kapcsolatainkban is. Gondoljunk csak bele: a társadalmi problémákról hogy is lehetne értelmes eszmecserét folytatni, ha a személyre szabott tartalomszolgáltatás eredményeképpen véleménybuborékban élünk, és egyre szélsőségesebb, s végül megmásíthatatlan véleményt alkotunk egy-egy problémáról.

Harari szerint a mesterséges intelligenciában rejlő lehetőségek leginkább ezen a területen szolgálnák az emberiség javát. Ha ugyanis az MI nem „felülről”, a döntéshozatal szintjéről (legyen az politikai, marketing vagy egyéb célzatú) érkezik a társadalomba, hanem épp fordítva, az egyént segíti a döntéshozatalban azzal, hogy fellebbenti előttünk a véleménybuborék fátylát, azzal máris értéket teremt. Ahhoz azonban, hogy a biológiához hasonlóan a mesterséges intelligencia is az emberiség érdekét szolgálja, mindenekelőtt rövidtávon kell megtalálni az arany középutat. Ahogy arra Harari rámutat: a primitív MI (ami már jelenleg is működik a társadalom különböző szektoraiban) sokkal veszélyesebb ránk nézve, mint az azt követő, magasabb evolúciós szinten álló “szuperintelligencia” – ha azt helytelenül alapozzuk meg, az beláthatatlan kulturális és egzisztenciális válságba taszíthatja az emberiséget.

A probléma ugyanis vallási dimenzióban is azonosítható:

A megszemélyesített isten mindig a “jóra” való törekvés zsinórmértéke volt, ami kézzel fogható kulturális eredményekkel is szolgált az évezredek során. Csakhogy ma nem feltételezünk mást a mesterséges intelligenciáról sem, és ez szintén méregfoga a problémakörnek: alappal tarthatunk attól, hogy a jövőben az ember feletti szuperintelligencia – a matematikailag kalkulálhatatlan erkölcsről és a morálról való alapvető ismeretek hiányában – legfeljebb is csak egy kísérlet lehet arra, hogy általános társadalmi rendezőelv legyen. Hogy a kísérlet milyen irányt vesz, abban az emberiségnek megfoghatatlanul nagy felelőssége van.