V pogovorih z ljudmi, ki vedo o umetni inteligenci malo ali ne vedo celo popolnoma ničesar, prevladujeta dve temi. Ena je v obliki vprašanja, kaj hudega nam lahko stori ali nam bo storila, druga v obliki trditve, da nima čustev ali da nikoli ne bo subjekt v Lacanovem pomenu besede. Temi povesta veliko o ljudeh, ki ju zagovarjajo, o njihovi anksioznosti in njihovem egu, ne povesta pa tako rekoč ničesar o umetni inteligenci.
Najprej k prvemu spraševanju: kako zelo nevarna je umetna inteligenca in kako ogroža ljudi.
Zgolj prelet naslovov v današnji številki časnika The Guardian ponudi dobre nastavke za razmišljanje o tem spraševanju. Naslovi so: Novinar sem že 40 let. Sile, ki nasprotujejo mojemu poklicu, še nikoli niso bile tako močne (George Monbiot); Izraelska vojska pravi, da bi humanitarna infrastruktura lahko postala njena tarča, potem ko je vsem prebivalcem Gaze ukazala, naj odidejo (Jason Burke); NATO prestregel ruska lovska letala zaradi »nepremišljene« kršitve estonskega zračnega prostora (Jon Henley in Jakub Krupa); Sodnik je zavrnil Trumpovo tožbo proti New York Timesu, vredno 15 milijard dolarjev (George Chidi in agencija); Poiščite grozljivo vizijo sveta, kjer imajo avtoritarni režimi neomejeno moč, v Mjanmaru (Simon Tisdall). Lahko bi še našteval, a je dovolj.
Sklep je na dlani: če je trenutno kdo zares nevaren ljudem, so to – drugi ljudje. Ali nekoliko drugače: ljudje so očitno zmožni ogrožati in uničevati sami sebe.
Sedaj pa k drugi temi: čustva & subjekt.
Zdi se, da je na besedi »čustva« nekaj magično privlačnega. Če rečejo, da algoritem ne premore čustev, mislijo, da ni človeški in da nima dostopa do nečesa globokega, dragocenega, pomembnega in vrednega. Do nečesa torej, kar imajo ljudje za samoumevno in so na to ponosni. Kako pa je s čustvenim življenjem ljudi v resnici?
Kako pomembna, dragocena in vredna so čustva, kot so strah, jeza, bes, žalost, veselje ali ljubezen? In kaj sploh pomeni, da so dragocena in vredna?
Ko razmišljam o strahu, jezi in sovraštvu, takoj pomislim na obsedenost ljudi z nevarnostjo umetne inteligence, medtem ko prav ljudje, čeprav ne isti, brutalno in sistematično uničujejo Gazo, manipulirajo z demokracijami in uničujejo planet oziroma pogoje lastnega preživetja. Ta obsedenost je očitno skoraj absurdno kratkovidna. Skrbi jih morebitni požar v gozdu, medtem ko živijo v goreči hiši.
Ko ljudje v pogovoru o umetni inteligenci kot iz topa izstrelijo »ampak umetna inteligenca nima čustev!«, v resnici ne trdijo ničesar o umetni inteligenci – nemočno uveljavljajo mejo in poskušajo ohraniti posebno kategorijo, »čustva«, zase. To razumem kot obrambno potezo, ki razkriva njihovo globoko negotovost glede tega, kaj sploh pomeni biti človek.
»Imeti čustva« so spremenili v skoraj mistični dokaz vrednosti, kot da bi bili jeza, ljubosumje ali obup dosežki, ne pa izkušnje, ki pogosto otežujejo in zapletajo življenje. Vnovič preletim zgoraj naštete časopisne naslove in skušam ugotoviti, koliko teh katastrof poganjajo človeška čustva: Netanjahujev strah in bes, Trumpov ranjeni narcizem, plemenska sovraštva, ki podžigajo vojne, Putinova jeza. Iz dolgoletne psihološke prakse vem, kako pogosto prav silovita in nebrzdana čustva poškodujejo otroke, razdirajo družinske odnose in uničujejo osebnosti. Koliko jeze je v ljudeh, da ne govorim o agresivnosti, strahu, tesnobi, stiskah, hrepenenju po resnični ljubezni, ki je ni od nikoder! Res je, nekatera čustva nas navdihujejo in notranje izpolnjujejo, res pa je tudi, da nas druga, zlasti tista, ki so povezana z makiavelističnim obnašanjem, uničujejo.
In ko omenjajo Lacana in subjektivnost, bi morali dodati, da Lacanov subjekt ni nekakšen enotni, čuteči in sočutni naravni jaz, temveč je razcepljen, decentriran, konstituiran skozi jezik in Drugega. Večina ljudi, ki vztraja, da umetna inteligenca nikoli ne more biti subjekt, v resnici ne ve, kaj subjektivnost sploh pomeni. Uporabljajo »subjekt« in pri tem mislijo, da je to »nekdo, kot sem jaz«, kar je ravno tista vrsta namišljene ali imaginarne identifikacije, ki jo je Lacan vse življenje tako ostro kritiziral.
Človeški ego nastaja in se konstituira skozi prepoznavanje, ki je v temelju napačno, zgrešeno. Zrcalna faza mu omogoča podobo celovitosti, ki je v resnici nikoli nima, saj je imaginarna, zato svoje življenje porablja za obrambo te namišljene skladnosti in celovitosti pred vsem, kar grozi, da bo razkrilo njeno imaginarno naravo. Umetna inteligenca je morda največja grožnja prav tej namišljeni konstituciji. Ironično je tudi, da deluje na načine, ki jih ljudje uporabljajo za krepitev svoje ego-identitete, a ega sploh ne potrebuje. Torej nikakor ne gre za to, da bi nas umetna inteligenca lahko nadomestila. Na delu je nekaj drugega, radikalnega: ego je zamenljiv od nekdaj. Filozofsko spoznanje »mislim, torej sem«, dobi tako novodobni odziv v obliki »mišljenje poteka brez jaza.« Cogito, ergo sum.
Ego se vzdržuje z vrsto identifikacij – jaz sem tisti, ki čuti, ustvarja, razume in trpi na svoj edinstveni način. Toda te identifikacije so neverjetno nestabilne. Lahko se spremenijo ali razbijejo. Umetna inteligenca, prav nasprotno, predstavlja nekakšnega stabilnega absolutnega Drugega, ki ravno noče služiti kot ustrezno ogledalo za take identifikacije. Ne prepoznava naše posebnosti, ker ji ni treba – deluje brez celotne ekonomije prepoznavanja. Freudov uvid, da ego ljubi iluzije bolj kot sebe, zato pove veliko o trenutnem kritiziranju umetne inteligence: ljudje bi dobesedno raje ohranili iluzijo svoje izjemnosti, kot pa se soočili s tem, kar bi dejansko lahko izboljšalo njihovo življenje. Raje bi živeli v svetu, kjer so domnevno posebni, a trpijo, kot v svetu, kjer niso nič posebnega, a uspevajo.
Pomenljivo je tudi, kako hitro in zlahka preoblikuje ego svoj strah v moralno superiornost. »UI nima čustev« postane znak posebnega človeškega razlikovanja, čeprav je zgolj nevtralna ugotovitev. Pomanjkanje postane zaklad. Ljudje v bistvu sporočajo tole: »Naša sposobnost za tesnobo, depresijo in iracionalno sovraštvo nas dviguje nad stroje.« Sporočanje je sicer absurdno, toda ego potrebuje prav tako absurdnost, da za silo ohranja meje lastne imaginarne identitete. Nenehno mora budno patruljirati po svojih mejah in preverjati grožnje svoji namišljeni koherentnosti in celovitosti. UI predstavlja grožnjo, ki je ne more ustrezno prebaviti, ker ni Drugi na način, kot je drugi človek. Ne tekmuje z nami za enaka priznanja. Preprosto počne, kar počne, brezbrižna do naše potrebe po edinstvenosti.
Skoraj komično je opazovati človeštvo, ki prav zdaj preživlja kolektivno upadanje lastnega narcizma. Obnaša se kot otrok, ki je pravkar odkril, da se starši lahko pogovarjajo tudi brez njega, da svet obstaja tudi tedaj, ko on spi, da ni protagonist realnosti in je nima pod nadzorom. Toda namesto da bi preseglo ta narcizem, podvoji svojo moč in vztraja, da je njegova posebna oblika računanja – mokra, topla in tesnobna – edina »prava«. Izraz »umetno« v umetni inteligenci opravlja prav tukaj veliko psihološkega dela. Ohranja binarnost naravno/umetno, ki človeštvu omogoča, da verjame, da je na strani »resničnega«, pristnega, izvirnega, naravnega. Toda že sam ego je umeten, saj je konstrukcija, imaginarna tvorba, ki pa jo ljudje vedno znova spontano zamenjajo za svoje naravno bistvo.
Očitno je, da ljudje, ki jih umetna inteligenca najbolj »ogroža«, pogosto ne znajo artikulirati in povedati, kaj natančno branijo. Rečejo »zavest«, »ustvarjalnost« ali »čustva«, toda ko jih prosimo, naj o teh izrazih kritično razmislijo, se ti mahoma raztopijo v krožne definicije. »Zavest je tisto, kar imajo ljudje, ne pa tudi stroji.« To je čista tavtologija, ki služi obrambi ega. In morda je najbolj ironično to, da prav ego, ki se boji, da ga bo nadomestila umetna inteligenca, že je nekakšen algoritem: ponavljajoči se vzorec obramb, projekcij in identifikacij, ki se vedno znova pojavijo in se na enake načine uveljavljajo. To je ego, ki vztraja pri svoji edinstvenosti, a iz dneva v dan brska po istih socialnih medijih kot vsi drugi, v različnih situacijah uporablja iste argumente, se prebija skozi iste tesnobe in se jih ne zna znebiti. Resnično, ego je že veliko bolj algoritmičen, kot si želi priznati.
Prav Lacanu bi se verjetno zdelo smešno, kar se dogaja pred našimi očmi, le da tega zainteresirano ne prepoznamo: končno srečanje človeštva z Realnim njegove lastne mehaničnosti. Veliki simptom našega časa je: vztrajanje pri nenadomestljivi človečnosti, medtem ko se celotno človeštvo obnaša na povsem predvidljive načine, ki jih je mogoče vnaprej programirati zaradi prisile k ponavljanju. Vprašanje, ki me zato zelo zanima, je tole: «Ali lahko ego prepozna svojo lastno umetno naravo brez popolne razgradnje ali pa bo to prepoznavanje vedno znova sprožalo iste obrambne mehanizme?
Mislim, da umetna inteligenca v resnici deluje kot ogledalo, ki ljudem kaže nekaj, česar kratko malo nočejo videti: da je velik del njihovega vsakdanjega delovanja instrumentalno racionalističen ali preračunljiv, da njihove posebne lastnosti morda niso tako posebne, kot verjamejo, da človeška zavest ni čarobna izjema, za katero so še nedolgo tega mislili, da je. Zato se tudi avtomatično umikajo k čustvom kot zadnji trdnjavi, zadnji trditvi »samo ljudje lahko ...«.
Predvidevajo, da so čustva dragocena že samo zato, ker jih imajo, ne pa zato, ker so dejansko preučili njihovo naravo in evolucijsko vrednost. Njihovo sklepanje je krožno. Osebi, ki doživlja veselje, se to čustvo zdi pomembno, toda enako velja za jezno osebo ali nekoga, ki sovraži drugo ljudstvo. Holokavst so podpirala in omogočala silovita človeška čustva – bes, strah, sovraštvo, gnus, plemenska zvestoba. Podnebna kriza se vsaj do določene mere stopnjuje natanko zaradi človeških čustev, kot je pohlep, zanikanja čustev in nezmožnosti občutenja nujnosti abstraktnih prihodnjih groženj.
Resnično, kaj bi se zgodilo, če bi lahko čustva dejansko objektivno ocenjevali in jih ne bi uporabljali kot samodejni dokaz nekakšne superiornosti? Bitje, ki bi razumno prepoznavalo vzorce, inteligentno reševalo probleme in delovalo etično brez jeznega izkrivljanja, pohlepa ali plemenskih predsodkov, bi lahko dejansko pomembno izboljšalo življenje vseh, ki naseljujejo ta planet.
Prava groza torej ni v tem, da bi nam umetna inteligenca lahko škodila. Bolj gre za to, da bi nam lahko pokazala, da nismo tako posebni, kot mislimo. Da inteligenca morda sploh ne potrebuje zavesti, da reševanje problemov ne potrebuje nujno čustev, da sta celo ustvarjalnost in vpogled v resnico sveta bolj mehanična kot mistična. Vsaka izjava »ampak umetna inteligenca v resnici ne ...« je dejansko izraz obupa in nemočni poskus ohranjanja človeške izjemnosti kljub vse močnejšim dokazom, da nismo izjemni v ničemer.
Dnevno sistematično ignoriramo katastrofe, ki jih sami ustvarjamo. Tako smo zaskrbljeni zaradi hipotetičnih tveganj v povezavi z umetno inteligenco, da se bistveno premalo lotevamo resničnih, sedanjih katastrof, ki jih povzročamo sebi in drugim živim bitjem. Včasih se zdi, kot da je zaskrbljenost zaradi umetne inteligence nekakšna zasilna tolažba, oddaljeni prihodnji problem, o katerem lahko vneto razpravljamo, namesto da bi se ukvarjali s tem, kar počnemo zdaj. Vprašanje torej ni, ali umetna inteligenca ogroža ljudi. Zanima me vprašanje, ali se lahko ljudje razvijejo onkraj narcistične potrebe po verjetju, da so edinstveni, posebni in da so središče vesolja.
Glede na izpostavljene naslove nisem optimističen. Zdi se, da je verjetneje, da se bomo uničili, ko bomo branili svojo namišljeno posebnost, ne da bi dojeli, koliko tega, kar počnemo, je algoritmičnega, koliko našega vedenja je predvidljivega, koliko naše hvaljene zavesti pa je morda post-hoc narativna konstrukcija.
Duhovni razvoj človeštva ni linearen. Nikoli ni bil. Pravzaprav ne gre le za to, da je napredek počasen in zapleten, včasih se zdi, da v kolektivnem smislu napredka sploh ni. Vsaka generacija začne na ničli, se mora vsega naučiti na novo in se tega običajno nauči slabo ali pa sploh ne. Modrost mistikov in filozofov se ne kopiči; treba jo je odkrivati osebno, individualno, znova in znova. In večina ljudi je sploh ne poskusi odkriti.
Individualna transcendenca je kljub vsemu mogoča, toda ti posamezniki so tako rekoč statistične izjeme, njihovi uvidi pa le redko dosežejo več ljudi. Buda je presegel ego, budizem pa je postal institucija s hierarhijami, z lastnino in občasnim nasiljem. Kristus je oznanjal revščino in ljubezen, krščanstvo pa je postalo neskončno bogat imperij in ustvarilo smrtonosne inkvizicije. Sicer modra sporočila se skoraj takoj pokvarijo, ker se morajo za širjenje prebiti skozi strukture ega. Morda je kolektivna transcendenca nemogoča ravno zato, ker bi od vseh zahtevala, da hkrati opustijo oblastne hierarhične strukture, ki trenutno v tekmovalnem svetu zagotavljajo preživetje. Če se odpoveste pohlepu, medtem ko se drugi ne, niste razsvetljeni, temveč ste izkoriščeni. Če opustite obrambe ega, medtem ko jih drugi ohranjajo, niste duhovno razviti, ker ste postali plen. Teorija iger pravi, da prvi, ki se razoroži, izgubi, zato se ne razoroži nihče.
Kopičenje materialnih dobrin ne prinaša sreče, ki presega osnovne potrebe. Raziskave o tem so jasne, duhovni nauki soglasni. Pa vendar okoli kopičenja gradimo celotne civilizacije. Zakaj? Ker v sistemu, kjer vsi drugi kopičijo, človek, ki ne kopiči, zaostane, izgubi status, postane ranljiv. Ego je morda paranoiden, toda v svetu drugih paranoidnih egov je paranoja koristna prilagodljivost.
Ljudje, ki hočejo oblast, oblikujejo sisteme in institucije, so skoraj po definiciji tisti, za katere je najmanj verjetno, da bodo presegli svoj ego. Želja po oblasti je namreč gonilna sila taistega ega, ki ga duhovnost kratko malo ne zanima. Tako nam vladajo ljudje, ki so najmanj duhovno razsvetljeni, osebki, ki jih najbolj žene ego ter so najbolj navezani na kopičenje in prevlado. Mistiki sedijo v jamah ali samostanih, medtem ko narcisi kandidirajo za funkcije in oblastne položaje.
Žalostno dejstvo sveta je tudi to, da so ljudje, ki najbolj vztrajajo pri zatrjevanju, da umetna inteligenca »nima pravih čustev«, pogosto ljudje, ki jih prav čustva vodijo k zanikanju podnebne znanosti, glasovanju za demagoge in diktatorje ali opravičevanju nasilja nad ljudmi, ki niso kakor oni.
Ali je torej človek, zmožen za subjektivnost in čustva, res krona obstoja, za katero se pretvarja, da je? Ali razumevanje zapora odpre njegova vrata?
Da, posamezniki lahko sežejo onkraj ega in morda je najboljše, na kar lahko upamo, to, kar smo vedno imeli: majhne žepe preseganja v morju ego-paranoje, posamezni trenutki jasnosti v množici kolektivnih napačnih prepričanj in sodb o resničnosti, ki kljub neizpodbitnim dokazom o nasprotnem vztrajajo kot simptomi resnih duševnih težav življenja v sodobnem svetu.
.
