,,NEXUS’’, de Yuval Noah Harari: previziuni despre Era IA. O recenzie după o lectură aprofundată

Inteligența artificială devine un laitmotiv în ultimele trei cărți ale istoricului israelian Yuval Noah Harari. Cea mai recentă, ,,Nexus”, lansată în 2024, propune o istorie informațională a omenirii, care se încheie cu concluzii privind eventuale scenarii pentru următoarea jumătate de secol. Dacă în ,,Homo Deus” sau ,,21 de lecții pentru secolul 21”, două studii mult mai generale și de opinie, inteligența artificială este o realitate nelipsită în elaborarea scenariilor privind secolul XXI, în ,,Nexus”, un studiu care se dorește a fi mult mai științific decât celelalte, AI (IA) devine personajul principal. Într-o istorie informațională, AI este cel mai recent nod informațional, cel care dă naștere unei noi epoci caracterizată printr-o revoluție științifică fără precedent.

Despre autor, câteva rânduri: controversat, criticat de elitiști, respins vehement de conservatorii radicali, însă în niciun caz nu poate fi ignorat. Stârnește furtunoase dezbateri intelectuale între membri ai unor ,,cluburi de lectură”, divizați în tabere pro și contra, care nu i-au citit decât 2-3 pagini din fiecare carte: toată lumea are o părere despre Harari. A cumpăra un bestseller te obligă o lectură aprofundată, nu doar la deținerea unui accesoriu care este la modă. Toate disputele, mai mult sau mai puțin intelectuale, cu privire la cărțile acestuia nu fac decât să-i valideze una dintre teorii. Peste tot există povești despre Harari, iar Homo Sapiens adoră poveștile. Poveștile au construit societatea modernă, aceasta fiind și tema centrală din ,,Nexus”.

,,Nexus”’, termen de orgine latină, desemnează legăturile dintre membrii unei colectivități. Harari pornește de la premisa că omenirea a evoluat datorită abilității lui Sapiens de a construi rețele de cooperare (zeii, religiile, triburile, instituțiile, birocrațiile, statele) care au crescut ca dimensiune în ultimii 100 00 de ani și invită la demonstrație: marile probleme ale omenirii au apărut tocmai în urma unor fisuri în aceste rețele informaționale. Democrația este considerată cea mai inspirată abordare în ceea ce privește gestionarea eficientă a unei rețele informaționale, însă nu este întotdeauna cea mai puternică rețea informațională. ,,Nazismul și stalinismul au fost două dintre cele mai puternice rețele pe care le-au creat vreodată oamenii”, afirmă Harari care întărește ideea avertizând că ,,în secolul XXI, un nou regim totalitar ar putea foarte bine să reușească acolo unde Hitler și Stalin au eșuat, creând o rețea atotputernică”. Este avertismentul sumbru, lansat încă din prologul cărții.

Între adevăr și ordine

Deși la nivel uman există dorința firească pentru adevăr, considerat a fi scopul final al rețelelor informaționale, adevărul a fost, nu de puține ori, sacrificat în favoarea ordinii sociale. Este o dilemă pentru care Harari are următoarea explicație: ,,Această carte afirmă  că nu e vina naturii noastre, ci a rețelelor informaționale. Favorizând ordinea în detrimentul adevărului, rețelele informaționale umane au generat adesea multă putere, dar puțină înțelepciune”.  Harari admite că puterea nu e un lucru rău, ci chiar ,,un instrument al binefacerii”. Iată un exemplu care arată că puterea poate fi o sabie cu două tăișuri: ,,Un stat modern care se confruntă cu secetă sau cu ploi excesiv de abundente poate împiedica de obicei acest dezastru natural să provoace înfometarea în masă în rândul cetățenilor săi. Dar un stat modern stăpânit de o fantezie născocită de oameni este în stare să instige la foamete provocată de oameni la o scară uriaşă, cum s-a întâmplat în URSS la începutul anilor 1930”. De aceea, dilema statului modern democratic este echilibrul dintre adevăr și ordine. Adevărul nu trebuie să fie exclusiv apanajul unui Guvern, al unei administrații centrale; responsabilitatea trebuie împărțită cu mass-media, mediul academic sau societate civilă. ,,A lăsa guvernul să supravegheze căutarea adevărului e ca și cum ai lăsa lupul paznic la oi”, afirmă Harari, axiomă caricaturizată de George Orwell încă din secolul trecut în romanul distopic ,,1984”.

Cele două concepții asupra informației

Harari identifică două abordări privind utilizarea, rolul și scopul informației, mai exact o concepție naivă, respectiv una cinică. Concepția naivă pornește de la un optimism anthropologic cu privire la rețelele informaționale umane. Prin aceasta se susține că, prin colectarea și prelucrarea mult mai multor informații decât pot indivizii să colecteze și să prelucreze, rețelele mari ajung la adevăr, ,,ceea ce face ca rețeaua să fie nu doar puternică, ci și înțeleaptă”. Un exemplu contemporan îl reprezintă rețelele de socializare virtuale care nu au adus mai mult adevăr, desi cantitatea de informație stocată și prelucrată este la un nivel fără precedent. De altfel, Harari va reveni  de câte ori va fi nevoie la rețelele de socializare  de-a lungul paginilor din ,,Nexus”. Inclusiv misiunea declarată de cel mai puternic motor de căutare pe internet, Google, aceea de a organiza informațiile lumii și a le face universal accesibile și utile, face parte din concepția naivă asupra informației și adevărului. Totul pare ,,roz” în cadrul concepției naive privind informația, însă istoria, mai ales cea informațională, ne-a arătat contrariul: ,,Când examinăm istoria informaţiei din epoca de piatră până în cea a siliciului, vedem prin urmare o creştere constantă a conectivității, fără o sporire concomitentă a adevărului sau înţelepciunii. Contrar a ceea ce crede concepția naivă, Homo sapiens nu a cucerit lumea deoarece suntem talentaţi la transformarea informațiilor într-o hartă exactă a realității. În schimb, secretul succesului nostru este că suntem talentați la a folosi informațiile pentru a conecta numerosi indivizi. Din nefericire, această capacitate merge adesea mână în mână cu credinţa în minciuni, erori şi fantezii”, observă Harari.

La polul opus, concepția populistă privind informațiile este cea care ridică puterea la rangul de a fi singura realitate palpabilă. ,,În versiunile sale extreme, populismul afirmă că nu există niciun adevăr obiectiv și că fiecare deține propriul său adevăr, pe care îl folosește pentru a-și învinge dușmanii”, susține Harari care nu iubește nici concepția naivă și nici pe cea populistă. ,,Pentru a crea rețele mai judicioase, trebuie mai degrabă să renunțăm la concepția naivă asupra informațiilor și la cea populistă, să nu ne mai închipuim că suntem infailibili și să ne dedicăm sarcinii dificile și destul de banale de a construi instituții cu mecanisme puternice de autocorecție”.

Mecanisme de autocoreție

Harari insistă de fiecare dată când relatează probleme și disfuncționalități ale unor rețele din trecutul îndepărtat sau din istoria recentă pe lipsa mecanismelor de autocorecție. Infailibilitatea (credința că nu pot greși) celor care administrează rețelele informaționale a împiedicat aplicarea unor mecanisme de autocorecție. Un motiv pentru care, în anumite momente ale istoriei, instituțiile științifice au câștigat teren în fața instituțiilor religioase a fost tocmai capacitatea de a admite că se poate greși din care derivă abilitatea de a genera mecanisme de autocorecție. În ceea ce privește inteligența artificială, Harari nu produce doar scenarii sumbre: AI nu este un instrument, ci un agent- un agent non-uman care poate avea un foarte bun rol de a corecta erorile umane. Până să-și atingă scopurile nobile, algoritmii AI fac ravagii atunci când aceștia coordonează rețelele de socializare on-line, iar Harari are nenumărate exemple concrete. Acesta pune pe seama algoritmilor creșterea fenomenului radicalizării discursului politic pe rețelele de socializare. În loc să producă mai mult adevăr, fiind depozitare de cantități imense de informații, rețelele de socializare virtuale au fost în ultimul deceniu adevărate vizuine ale mișcărilor extremiste, adepte alte teoriei conspirației. Astfel, concepția naivă despre informație a fost spulberată de concepția populistă, ceea ce face imperativă reglementarea algoritmilor de pe rețelele de socializare, cei care au ajuns să modeleze comportamente, credințe, mai nou să genereze schimbări politice. Pentru prima dată, avem de a face cu niște forțe non-umane.

Dictatura like-urilor și guvernanța algoritmilor

Algoritmii au scăpat de sub control atunci când au fost puși să facă bani pentru corporațiile care dețin rețelele de socializare. ,,Corporațiile și-au însărcinat algoritmii să crească implicarea utilizatorilor”, remarcă Harari.  ,,La fel cum poliția secreta sovietică l-a creat pe slugarnicul homo sovieticus prin supraveghere, recompensă și pedeapsă, și algoritmii Facebook și YouTube creează trolli recompensând anumite instincte josnice și pedepsindu-i pe îngerii mai buni ai naturii noastre”. De exemplu, în 2012, utilizatorii You Tube vizionau aproximativ 100 de milioane de ore de conținut video pe zi. Era prea puțin pentru directorii companiei, care au stabilit pentru 2016 ținta de 1 miliarde de ore pe zi. Algoritmii au descoperit un fapt cinic, dar profitabil pentru companie: indignarea crește implicarea, în timp ce moderația tinde să nu facă asta. Așa că algoritmii YouTube au recomandat milioane de clipuri cu teorii ale conspirației și fake news-uri scandaloase. În 2016, ținta era atinsă, dar cu consecințe nefaste. Omenirea a mai trecut prin astfel de momente nefaste, în care democratizarea informației nu a dus la mai multă înțelepciune, ba dimpotrivă. Tot Harari relatează despre perioada de după introducerea tiparului pe scară largă, în secolele XIV-XV, care pe lângă răspândirea rapidă a informațiilor științifice, a favorizat mai degrabă fanteziile religioase, a știrilor false și a teoriilor conspirației. Cărțile cu fantezii și erori s-au tipărit în tiraje infinit mai mari decât cele științifice. ,,Simpla creștere a cantității de informații dintr-o rețea nu-i garantează caracterul binefăcător și nici nu face mai ușoară găsirea raportului just dintre adevăr și ordine. Aceasta este o lecție istorică cheie pentru proiectanții și utilizatorii noilor rețele informaționale ale secolului XXI”, explică Harari. În cazul algoritmilor, soluția propusă este ,,alinierea obiectivelor umane cu algoritmii”. Cei de la Facebook, YouTube sau TikTok poate că nu și-au dorit ascensiunea curentelor extremiste sau chiar provocarea unor atrocități, ci doar să-și sporească influența și veniturile. Algoritmii au gafat, de aceea trebuie puse în funcțiune mecanismele de autocorecție. Giganții tehnologici au acum sarcina de a crea algoritmi care să se alinieze obiectivelor inițiale ale administratorilor non-umani.

Boții, dușmani ai dezbaterii democratice

O altă temă de actualitate abordată în ,,Nexus” este necesitatea conturilor create exclusiv de oameni de pe rețelele de socializare, cele care au captat dezbaterea democratică. Și aici Harari are o soluție simplă, dar care întârzie. Mai precis, se pot împrumuta aceleași reguli care reglementează piața monetară, teorie susținută de filozoful american Daniel Dennet (1942-2024). Legea ar trebui să interzică orice încercare a unui agent nonuman de a se da drept om, așa cum au fost interziși banii falși. La fel cum o piață economică inundată de bani falși distruge încrederea oamenilor în sistemul monetar, așa și persoanele fake care distribuie informații fake pe piața ideilor au rolul de a distruge coeziunea socială. Este coeziunea socială mai puțin importantă decât sistemul monetar? ,,Agenții digitali sunt bineveniți să participe la multe discuții, cu condiția să nu se dea drept oameni”. De altfel, cheia funcționării corecte a omenirii în secolul XXI prin consolidarea democrației este comprehensivitatea noilor rețele informaționale, construite cu noile tehnologii de AI.

CONCLUZIE: DE CE SĂ CITIM NEXUS?

,,Nexus’’ este un bestseller nu doar datorită notorietății autorului, dobândită de la titlurile publicate anterior, ci și datorită faptului că nu se adresează unui public restrâns, fiind destinată publicului larg. ,,Nexus” reprezintă, fără îndoială, apogeul publicistic al lui Harari, în care discursul său științific atinge maturitatea retorică, fiind un studiu care reunește pe cele anterioare într-un singur discurs, cu un scop precis : acela de a explica probleme ale lumii contemporane printr-o prezentare istorică care evoluează de la general la particular, de la abstract la concret. O istorie informațională a omenirii este un discurs pedagogic original prin care publicul larg este invitat la autoeducație. De asemenea, ,,Nexus” este una dintre cele mai științifice pledoarii pentru democrație, prezentată ca fiind cea mai inspirată și deschisă rețea informațională care a reușit să conecteze miliarde de oameni. În epoca revoluției inteligenței artificiale, pericolul totalitarismului nu a fost îndepărtat, ba chiar este mai posibil ca oricând, cu ajutorul noilor tehnologii. O nouă cortină geopolitică, de data aceasta de ,,siliciu”, este iminentă, animată de ,,cursa înarmării AI”. Harari invită la responsabilitate și încheie cartea cu optimism antropologic: ,,Deciziile pe care le vom lua cu toții în anii ce vin vor determina dacă invocarea acestei inteligențe nonumane se va dovedi a fi o eroare fatală sau un nou capitol plin de speranță în evoluția vieții”.