Andrei Marga: Despotism, absolutism, plutocrație, comunism, și alte regimuri politice ce recurg la controlarea minților cetățenilor, sunt reluate tăcut în „era digitală”; Cetățenii au acces mai larg ca oricând la știri, dar sunt condiționați mai profund și la nevoie manipulați, are loc o degradare a valorilor, încât prietenia naturală este înlocuită de „satisfacția în rețelele sociale”, ceea ce este real devine virtual, ceea ce era om se aruncă pe piață ca număr și date

„Caracterizat sintetic, umanismul este concepția care-și asumă centralitatea omului în univers și îndeamnă la acțiuni de sprijinire a oamenilor, de eliberare și emancipare a lor. Cel puțin în tradiția europeană, umanismul are la origini imaginea creării omului de către Dumnezeu, după chipul și asemănarea sa, așa cum Biblia a consacrat-o. Trăită intens, imaginea a și condus la asumarea în constituțiile moderne a demnității omului, ca principiu, pe soclul căruia au fost prevăzute libertățile și drepturile fundamentale”, scrie, în Cotidianul, profesorul Andrei Marga.

„Au fost, însă, și sunt mereu aruncate pe piață devize alternative la umanism. S-a lansat, de exemplu, „antiumanismul teoretic”. În anii șaizeci-șaptezeci, ca efect al concentrării sociologiei și matematicii asupra studiului structurilor, al psihologiei genetice și al antropologiei structurale, ca și al atracției tehnocrației, a prevalat opinia după care umanismul ar fi devenit superfluu.

Mai târziu, pe scena ideilor generale a urcat „postumanismul” și, mai recent, „transumanismul”. Ele vin din generalizări făcute la origine de străluciți cercetători, respectiv de extrem de cultivați și inovativi informaticieni, care extrapolează vederi din disciplinele lor.

Se cuvine menționat că este vorba despre cercetători cu o pregătire profundă, într-o diviziune a științelor care este nouă în istorie. Ei sunt formați nu atât în cadrele disciplinare conduse de vreo logică formală a cunoașterii – cum sunt încă cele mai multe formări universitare și cercetări științifice din zilele noastre – cât în cadrele dirijate de problemele ce se vor lămurite. De aceea, contează mai mult decât disciplinele, diferite conjuncții ale lingvisticii, matematicii, psihologiei, fizicii, chimiei, biologiei, economiei, ingineriilor, antropologiei, sociologiei, informaticii, medicinei, cosmologiei, chiar ale literaturii și muzicii. Ele sunt evident mai mult și nu încap în taxonomiile disciplinare cunoscute.

În pofida unor interferențe, „postumanismul” și „transumanismul” trebuie însă distinse. Prin „postumanism” se înțelege o reacție la imaginea antropocentrică asupra lumii și o critică a elaborărilor umanismului. Ele s-au conturat în studiile literare, ca deplasare de la centrarea pe personaje acaparate de condiția lor existențială, la descrierea a ceea ce se petrece cu omul în realitățile vieții. Postumanismul detronează ființarea umană ca subiect privilegiat al cercetării. Odata cu aceasta, se dărâmă centralitatea omului, un anumit apriorism al eticii, ca și exaltarea libertăților, drepturilor și a capacităților conștiinței de sine, în favoarea recunoașterii de structuri ce ies de sub controlul oamenilor. Uneori, postumanismul topește omul în structuri, alteori, sub inspirația devizei lui Nietzsche – „omul să fie urmat de Supraom” – este o critică a limitărilor umane.

Putem discuta pe larg postumanismul și lacunele sale. În opinia mea, trei sunt decisive. Bunăoară, nu s-a putut dovedi că o decentrare postumană dă rezultate. Ea distruge modernitatea, iar ceea ce se petrece în Europa actuală oferă probe. Apoi, noi strategii de cercetare nu antrenează automat erodarea umanismului, iar viziunea postumanismului tot nu are suport. În sfârșit, argumentul existențial rămâne – niciun om nu poate ieși din condiția de individ aflat în căutarea viețuirii în mediul unor valori.

Prin „transumanism” se înțelege, la propriu, altceva. Pe o linie, este viziunea potrivit căreia s-ar putea schimba radical condiția de ființă finită a omului, cu ajutorul noilor științe, anihilând până la urmă boala și moartea. Ea nutrește căutări mai ales în fiziologie, nutriție, medicină, în direcția tratării maladiilor și a prelungirii vieții. Pe altă linie, transumanismul susține că oamenii ar putea fi înlocuiți ca subiecți ai realității cu produsele socotite superioare ale inteligenței artificiale. Nu ar mai conta componentele sociale și instituționale ale condiției umane, cât rețelele create de inteligența artificială.  „Cyborgul” – organismul uman sau neuman care și-a dezvoltat abilități făcute posibile de inteligența artificială – ar fi orizont realist.

După cum l-au configurat Manfred E. Clynes și Nathan S. Kline (Cyborgs and Space, 1960), care au studiat precis fenomene ca iubirea, râsul, deferența și au stabilit că acestea depind de ceea ce se petrece în corp și pot fi stimulate prin acțiuni externe, „cyborgul” ar fi posibil. El ar depăși frontiera dintre om și animal, dintre om și tehnologiile inteligenței artificiale, chiar și dintre om și lucruri, cu toate consecințele. Concentrat asupra explorării legăturii dintre creier și computer, matematicianul și romancierul Vernor Vinge (1993) a spus că progresul tehnologic duce treptat la o tehnică „superinteligentă”. Nu numai atât, dar tehnica devine adevăratul subiect al istoriei.

La „Cyborg”, transumanismul liniei a doua adaugă astfel ideea „Superinteligenței”. Să rămânem la „transumanism”, în acest înțeles strict. Nu fac aici un inventar, nici nu amintesc istorii ale inteligenței artificiale, desi se învață enorm din ele. Menționez doar sursele teoretice principale ale emergenței inteligenței artificiale. Aceste surse au fost: identificarea bazei aritmetice a gândirii (Boole), distingerea conținutului (gândului) de expresii (Frege), delimitarea lanțurilor de propoziții pe linia valorii de adevăr (Russell, Whitehead), cercetarea conexiunii inverse (Wiener), decuparea informației și a unității ei elementare (Shannon). La o privire retrospectivă, și ea concentrată asupra a ceea ce a fost decisiv, se pot observa patru praguri majore  ale acestei dezvoltări: a) dezvoltarea analizei limbajului prin modelări complexe ale capacităților (Chomsky); b) dezvoltarea informaticii (Shannon și continuatorii); c) abordarea computerială a psihologiei (Neisser și mai ales Anderson și alții); d) convertirea în impulsuri electronice a informației și inginerii ce au dus la  industria calculatoarelor.

Ce cunoștințe au condus însă de la inteligența artificială, la „transumanismul” de azi? Să observăm această tranziție, fie și în linii mari, pe baza autorilor și cărților care au jalonat-o.

Marvin Minsky a studiat la MIT aplicarea în cercetarea creierului a sistemelor analoage rețelei neuronale și a adâncit cercetările în ingineriile electrică și computerială pentru a realiza  learning maschines bazate pe analogia cu rețeaua neuronilor. În cartea sa A Framework for representing knowledge (1979), Marvin Minsky a dat o nouă interpretare cunoașterii, care a fost recompusă pe baza conceptului de „frame”, prin care are în vedere o structură de date (informații) ce reprezintă situații stereotipe, ca, de pildă, statul într-o cameră, de care sunt legate informații privind folosirea, ce este de așteptat și ce este de făcut. Cunoașterea ar consta din asamblarea de „frames”, iar inteligența ar fi rezultat al interacțiunii de componente neinteligente. Marvin Milsky a putut susține astfel că, pe baza progreselor matematicii, se pot construi supercomputere capabile să preia decizii aflate astăzi în mâna oamenilor și să administreze mai bine treburile vieții umane. În altă carte, The Emotion Maschine (2006), el a expus o teorie a funcționării minții, în care și oamenii sunt mașini, dar mașini inteligente, întrucât beneficiază de interacțiunea dintre părți fizic identificabile ale creierului, care operează autonom. „Inteligența” rezultă de fapt din felul în care este alcătuit și funcționează creierul. Vor fi posibile însă computere și mai inteligente decât oamenii.

Un discipol, Ray Kurzweil, a fost angajat de Google pentru a cerceta funcționarea limbajelor naturale în vederea dezvoltării learning maschines. După ce prezintă istoria inteligenței artificiale în  The Age of Intelligent Maschine (1990), Ray Kurzweil a dat scrierea sa principală, The Age of Spiritual Maschine (1999, tradusă și republicată Die Intelligenz der Evolution, Kiepenheuer&Witsch, 2016), în care spune că evoluția vieții oamenilor va depinde de procese biologice și de tehnologii ale inteligenței artificiale. El vede corpul uman ca sistem ce constă în „programe” și consideră că organismul va putea fi într-un fel reprogramat biologic, încât cancerul și alte boli să fie făcute reversibile. El susține că există o lege a accelerării progreselor tehnologice, care ar fi miezul istoriei ce vine. În studiul How to Create a Mind (2012), Ray Kurzweil spune că neocortexul este un sistem complex a cărui arhitectură, odată copiată de computere, poate da Superinteligența artificială. El prevede că, în jurul anului 2029, și computerele vor trece celebrul test introdus de Alan Turing (Computing Maschineriy and Intelligence, 1950), prin care se verifică abilitatea unei mașini făcând din ea parte a unei discuții în trei, doi fiind oameni, și cerându-i să răspundă la întrebări în limbajul natural.

Între timp, s-au creat noi premise matematice pentru cercetarea gravitației pe baza teoriei relativității și mecanicii cuantice, încât a devenit posibilă „stringtheory (teoria corzilor)”. Este o teorie care extrapolează  cunoștințe privind gravitația cuantică și susține că am fi într-un univers plural, compus din unități delimitate. Acest univers ar fi de fapt cu zece dimensiuni – nu doar cu cele trei dimensiuni spațiale plus dimensiunea temporală, cu care suntem obișnuiți. Argumentul principal este că ecuația forței gravitaționale între două corpuri și ecuația forței electrostatice dovedesc că magnitudinea forței este invers proporțională cu distanța. Ca oameni, operând cu anumite distanțe între obiecte, sesizăm doar patru dimensiuni.

De la „stringtheory” a plecat Nick Bostrom, care, după cercetări de fizică, neuroștiințe computaționale și filosofie, a spus că lumea noastră nu este nici realitatea însăși și nici singura. Lumea noastră este o „simulare de computer” – înțelegând aici prin simulare o modelare matematică capabilă să descrie și să prezică evenimente din lumea reală (Are We Living in a Computer Simulation?, 2003). Teza lui Nick Bostrom este că lumea în care trăim nu este singura, nu este nicidecum ultima realitate. Suntem doar într-una dintre lumi, așa cum a stabilit Cineva – care poate fi asimilat cu Dumnezeu. Dar nu acest fapt contează, ci acela că noi suntem ceva virtual, un „vis (Traum)” sau chiar „coșmar (Alptraum)” (Nick Bostrom, Superintelligenz. Szenarien einer kommenden Revolution, Suhrkamp, Frankfurt am Main, 2018). Acel Cineva poate fi la un Supercomputer cu ajutorul căruia se încearcă o mulțime de scenarii sau pune la încercare ipoteze privind universul. Umanitatea este rezultatul unor încercări, al unui joc al Cuiva, care are considerentele lui. Nu avem cum să-i dovedim existența, dar avem rațiuni să spunem că ne-a făcut cum suntem, ca ființe care produc suferință congenerilor și războaie.

Analog cu jocurile noastre pe computer, ne spune Nick Bostrom, Cineva se joacă pe un Supercomputer cu noi. Și așa cum sensul vieții este expansiunea, deschiderea de noi resurse și organizarea de noi populații, Supercomputerul, cu Superinteligența sa, este cel care controlează lumea. Nu ne rămâne decât să conlucrăm cu ea. Acomodarea este probabil „cea mai mare și mai neliniștitoare sarcină cu care umanitatea este confruntată – indiferent dacă ea este stăpânită sau eșuăm; va fi ultima sarcină a umanității” (p. 9). Nu va fi evitabilă asumarea sarcinii. Singura chestiune este când se va asuma. Numai asumând-o se evită alternativa prăbușirii.

Se pot discuta multe în jurul transumanismului, legat de inteligența artificială. Discuția este practic abia la început. Aici mai ating doar un aspect: de ce este criticabil transumanismul legat de inteligența artificială?  Din păcate, la noi se discută infim și astfel de chestiuni, încât aduc în atenție câteva de referință.

Argumentele principale sunt de ordin logic și antropologic.

Se aduc frecvent două argumente logice contra pretențiilor inteligenței artificiale. Primul este acela că inteligența artificială este o abordare care a luat act de faptul că strategia de cercetare bottom-up, reprezentată de behaviorism în psihologie și de psihologia fiziologică a semnalelor neuronale, nu mai dă rezultate. Ambele sunt excedate de complexitatea psihicului. În această situație, s-a recurs la o strategie top-down care a ales să pună întrebarea astfel: cum poate un sistem să îndeplinească performanța X? Aceasta este însă o interogare engineering – o „chestiune de soluție mai curând decât una de descoperire” (Daniel Dennett, Brainstorms. Philosophical Essays on Mind and Psychology, The MIT Press, 1986, p. 111). Este vorba de o teoretizare aprioristică care ne poate duce la cunoașterea de constrângeri, dar în rest ne poate înșela, fiind „neutră cu privire la faptele empirice”. Inteligența artificială este „cea mai abstractă cercetare a posibilității inteligenței sau cunoașterii” (p. 119). Ea împarte cu filosofia interesul pentru structuri abstracte și cu psihologia interesul pentru psihicul uman, dar antrenează patru neajunsuri: a) componentele sistemului sunt introduse miraculos; b) luarea unei constrângeri ca mai importantă decât altele este discutabilă; c) se restrânge artificial design-ul unui subsistem; d) se restrâng arbitrar performanțele unui sistem (p. 112-113). Inteligența artificială  își asumă că există un izomorfism între computer și creier, între nivelul neuronal și computer, dar acest izomorfism nu se poate proba sau ține de un strat superficial al realității. „Verisimilitudinea” programului nu este același lucru cu izomorfismul (p. 115-116). Programele inteligenței artificiale „nu sunt experimente empirice, ci experimente de gândire trecute prin computere”.

Al doilea argument contra inteligenței artificiale este acela că, în conformitate cu teorema lui Gödel, într-un sistem de axiome, de pildă, al aritmeticii, sunt propoziții ce nu se pot dovedi în acel sistem. Or, computerele sunt mașini bazate pe sisteme de axiome. Mașinile Türing recurg deja prin construcție la exploatarea tuturor legilor cunoscute ale naturii pentru a-și atinge scopul. Dar, oricât ar fi de dezvoltate, au nevoie de ceva care ține de creatorul ei. Ele nu ar putea avea un scop, vreo intenție în înțeles propriu (p. 261). Scopul depinde de designer și nu se transmite ca atare mașinii.

Hilary Putnam, el însuși inovator în lingvistică, robotică și filosofie, reia argumentul lui Noam Chomsky, după care modelarea computerială a limbajului este corectă, dar susține și el că nu este de așteptat ca inteligența artificială să copieze limbajul natural. Dar aceasta nu înseamnă să nu continuăm cu modelarea. Multe sisteme sunt prea complexe pentru noi ca să le putem prelua, să putem face predicții sau să simulăm activitatea lor în detalii; dar asta nu înseamnă să spunem că nu putem să căutăm modele teoretice utile ale unor astfel de sisteme” (Hilary Putnam, Renewing Philosophy, Harvard University Press, 1992, p. 17). În definitiv, operăm cu științe economice, chiar dacă nu am captat complexitatea economiei.

Este clar că se pot dezvolta computere oricât de capabile de operații asemenea creierului, dar nu va fi nicicum prezent scopul rezultat din reflecție a creatorului lor. Eu cred că argumentele de acest fel se pot generaliza într-unul hotărâtor. Computerele mai noi își descriu structura, ce reprezintă „conștiința”lor . Ele au căpătat capacități de a se comporta adecvat în mediu și au o anumită, să-i spunem, „conștiință de sine”. Numai că oricât s-ar dezvolta acestea – și nu există motive să nu se dezvolte (afară de o subită autodistrugere a umanității, care, din nefericire, nu mai ține de literatură, ci este azi pericol nemijlocit !) – un prag nu poate fi trecut: intenția, reflexivitatea și decizia autonomă nu sunt accesibile inteligenței artificiale. Transumanismul este astfel imposibil deja la nivelul construcției și funcționării acesteia.

Dacă se consideră că inteligența artificială funcționează de la sine, atunci ea forțează realitatea. Nu văd argumente împotriva inteligenței artificiale, căci ea este una dintre cele mai mari creații – comparabilă, de pildă, cu termodinamica, electricitatea și atomistica, dacă nu mai mult. Sunt însă critici ale folosirii ei – argumente ale consecințelor inteligenței artificiale, care acuză slăbirea de fapt a umanismului. Amintesc două dintre acestea, proeminente în dezbaterea internațională.

Directoarea unui institut german de informatică, pregătită în matematică, drept, filosofie, Yvonne Hofstteter, a arătat că digitalizarea a antrenat atomizarea societății, dependența cetățeanului de filtre, transformarea relației dintre cei care conduc și cetățeni în comandă, conducerea statelor de către concernele media (în Jakob Augstein, Hrsg., Reclaim Autonomy. Selbstmächtigung in der digital Weltordnung, Suhrkamp, Frankfurt am Main, 2017). Aplicarea inteligenței artificiale din zilele noastre a dezvăluit trei fapte: „supraveghearea” oamenilor, imanentă acesteia; sistemul software ia decizii în locul omului; efectul conexiunii inverse în materie de control al persoanelor se generalizează (Das Ende der Demokratie. Wie din künstliche Intelligenz die Politik übernimmt und uns entmündingt, Penguin, München, 2018p. 79-95). Cetățenii au acces mai larg ca oricând la știri, dar sunt condiționați mai profund și la nevoie manipulați_. Despotism, absolutism, plutocrație, comunism, și alte regimuri politice ce recurg la controlarea minților cetățenilor, sunt reluate tăcut în „era digitală” (p. 65). Are loc o degradare a valorilor, încât „prietenia naturală este înlocuită de <satisfacția (Freunde)> în rețelele sociale, ceea ce este real devine virtual, ceea ce era om se aruncă pe piață ca număr și date și poate să acționeze liber” (p. 58-59). Deviza lui Norbert Wiener, „totul poate fi condus”, ajunge la aplicare dincolo de intențiile și speranțele acestuia.

Reacționând la pretențiile transumanismului, pătrunzătorul filosof Richard David Precht a argumentat că, acceptând principiul lui Kierkegaard, după care individul stabilește în ultimă instanță sensul, „dacă vrem să aplicăm inteligența artificială într-un viitor plin de sens, încât ea să servească scopurile foarte multor oameni și nu ale unei evoluții ominoase, trebuie să nu depășim oamenii. Trebuie să lăsăm în urma noastră gândirea postumanistă…” (Richard David Precht, Künstliche Intelligenz und der Sinn des Lebens, Goldmann, München, 2021, p. 111). Avocații inteligenței artificiale favorizează un nivel scăzut de socializare: „Nick Bostrom pare a gândi mai curând în termeni de populații”, iar „Ray Kurzweil cunoaște propriu-zis numai consumatori” (p. 87). Ei favorizează astfel o lume, axiologic vorbind, de mâna a treia. (Din volumul, A.Marga, Sensul vieții, în curs de publicare)”, scrie profesorul Andrei Marga.

Articolul Andrei Marga: Despotism, absolutism, plutocrație, comunism, și alte regimuri politice ce recurg la controlarea minților cetățenilor, sunt reluate tăcut în „era digitală”; Cetățenii au acces mai larg ca oricând la știri, dar sunt condiționați mai profund și la nevoie manipulați, are loc o degradare a valorilor, încât prietenia naturală este înlocuită de „satisfacția în rețelele sociale”, ceea ce este real devine virtual, ceea ce era om se aruncă pe piață ca număr și date apare prima dată în Ecopolitic.