Cât de periculoasă poate fi pentru omenire tehnologia tot mai avansată în care investesc miliardari ca Elon Musk, Peter Thiel, Mark Zuckerberg și Mark Andreessen

Într-un fragment din noua sa carte, „Sfârșitul reali­tății“, Jonathan Taplin avertizează asupra riscurilor inteligenței artificiale (AI) și face o pledoarie ar­gumentată inclusiv moral împotriva suprainteli­genței.

Cei patru „tehno-oligarhi“ – cum îi numește Taplin –, Elon Musk, Peter Thiel, Marc Zuckerberg și Marc Andreessen, creează o realitate alternativă și auto­cra­tică, o lume în care „nimic nu este adevărat și totul este spectacol“.

Dacă vrem să aflăm cum omenirea a ajuns azi un loc, cu multă, adesea radicală inegalitate în venituri, al post-adevărului, al unui posibil al doilea război civil american, poate nu ar trebui să căutăm mai departe de cele patru nume care au marcat istoria industriei tech în ultimele două decenii, comentează Taplin într-un articol amplu publicat recent în pagi­nile re­vis­tei americane Vanity Fair.

Pe cei patru îi numește „tehnocrați“ (într-un sens diferit față de cel consacrat), cumva și ca o recu­noaș­tere a influenței mișcării „tehnocratice“, fondată în anii ’30 chiar de bunicul lui Elon Musk, Joshua Haldeman. Astăzi, „tehnocrații“ formează un fel de di­rectorat interconectat din Silicon Valley, în care fie­care investește în companiile celorlalți sau ocupă lo­curi în consiliile de administrație ale acestora. Iar vas­tul lor domeniu digital controlează o cantitate uriașă de informații personale, afectează modul în care trăiesc, lucrează și iubesc miliarde de oameni.

Multă vreme, cei patru au fost considerați eroi pro­gresiști tehnologic. Pentru Taplin sunt, de fapt, parte a unei ample deturnări antidemocratice a lumii tehnologice – fac tot posibilul să-și păstreze pozițiile de lideri de piață sau de cvasimonopol și să-și prote­jeze averile de zeci de miliarde de dolari. „Competiția este pentru naivi“, spunea la un moment dat Peter Thiel.

Tehnodeterminism x patru

În realitate, cei patru sunt oligarhii Statelor Unite, adâncește critica Taplin. Sunt cei care controlează accesul a miliarde de utilizatori ai planetei (și pentru 80% din populația Statelor Unite) pe Facebook, Twitter, Threads, Instagram și WhatsApp.

Taplin recurge la termenul de „tehnodeterminism“ pentru a descrie traiectoria pe care o dictează „teh­nocrații“, oamenii de rând primind la schimb promi­si­unea unui viitor luminos. Doar că, pentru autor, ideea de viitor pe care cei patru o vând – averi în crip­tomonede, fuziunea dintre om și computer prin in­termediul inteligenței artificiale, perspectiva de a ne petrece viața în metavers sau pe Marte – este, de fapt, o minciună. Nici fostul președinte american, Donald Trump, „nu mințea neapărat cu scopul de a nega adevărul, ci pentru a-i invita pe oameni într-o realitate alternativă“. Cam același gen de magie se aplică și aici, continuă Taplin.

Patru dintre proiectele propuse de „tehnocrați“ pre­supun investiții de zeci de mii de miliarde de do­lari (în mare parte, publice) în următoarele două decenii.

Spre exemplu, primul proiect, susținut de Andre­essen, Thiel și Zuckerberg, este Web3, descris drept o lume virtuală (metaversul) accesată prin ochelari de realitate virtuală (VR), care, în ciuda tuturor bene­ficiilor evidente pe care le promite, s-ar putea să tran­sforme webul, gratis în prezent, într-un parc te­matic online în care, pentru a-l accesa, vom avea ne­voie să plătim (cu un token cripto, desigur).

Al doilea proiect este chiar susținerea criptomone­delor. După cum remarca Adam Fischer, cel mai bine clasat venture capitalist din Israel, „cripto nu este neapărat o idee de investiție aliniată cu ideologia po­litică libertară, cât, mai curând, o tulpină virulentă a ideologiei politice libertare care, via blockchain, ex­ploatează lăcomia umană“.

Al treilea proiect implică visul de 10.000 de miliarde de dolari al lui Elon Musk de a trimite oameni să trăiască pe Marte.

Dar dintre toate scenariile-proiect pe care „teh­no­crații“ le promovează, niciunul nu este mai distopic decât transumanismul, preferatul lui Peter Thiel.

Pentru a înțelege ceea ce ar putea fi chiar cea mai mare păcăleală a companiilor din Big Tech, este nevoie de o analiză profundă a acestui curent social – transumanismul, care are în centru întreaga cercetare menită să dezvolte „tehnologii de îmbunătățire a omu­lui“, prin care oamenii ar putea atinge vârste de până la 160 de ani sau mai mult.

Desigur, accesul la aceste sisteme de prelungire a vieții, care încă nu au fost inventate, va fi incredibil de costisitor, așa că, în acest scenariu, singurii care vor supraviețui mai bine de un secol vor fi probabil doar multimilionarii.

Pericolul existențial

Toate aceste patru pro­iecte – metaversul, criptomonedele, colonizarea in­ter­planetară și transumanismul, fără a mai menționa inteligența artificială – reprezintă o amenințare exis­t­en­țială pentru lume din punct de vedere politic, economic și, poate cel mai important, moral. Pericolul moral provine din faptul că primele trei îl înlesnesc pe al patrulea.

Transumanismul promite că îmbunătățirile bioteh­no­logice le vor aduce oamenilor tinerețea fără bă­trâ­nețe, vor putea astfel coloniza alte planete sau ob­ține o contopire creier-computer (adică am deveni cy­borgi), astfel încât conștiințele individuale să tră­iască pentru totdeauna. Mai mult, întregul curent ar anula ideea de bază a liberalismului politic – drepturi egale pentru toți. În schimb, bogăția ar fi cea care ar determina perspectivele fiecărui individ.

Citându-l pe filosoful și politologul Francis Fukuyama, „transumanismul este cea mai periculoasă idee din lume“. Pentru că imaginează un viitor în care inteligența artificială și roboții, conduși de „teh­nocrați“, vor fi cei care vor face cea mai mare parte a muncii, iar o parte semnificativă a populației va sta acasă, fantazând în metavers și trăind cu un venit universal de bază în criptomonede plătit de guverne, venit care ar acoperi factura pentru conexiunea la internet și microplățile cu metacoin pentru concertele și cluburile frecventate virtual. Pentru cei care cred că aceste rânduri sunt doar un fel de fantezie dis­topică, Taplin recomandă o vi­zită la centrul de cer­cetare și dezvoltare (R&D) al companiei Amazon, pentru a vedea un viitor în care întregi depozite sunt operate de cinci oameni și 5.000 de roboți.

O poveste de groază

Pe când locuia în Africa de Sud și avea 3 ani, Peter Thiel și-a întrebat tatăl din ce e făcut covorul de piele din sufrageria apar­tamen­tului lor, povestește biograful său, Max Chafkin. Tatăl său i-a explicat că este de la o vacă sa­crificată. „Moar­tea se întâmplă tuturor animalelor, tuturor oamenilor“, i-a răspuns Klaus Thiel fiului său.

Se pare că răspunsul tatălui și perspectiva propriei morți l-au înspăimântat atât de tare pe micul Peter Thiel, încât, cred unii, nu și-a mai revenit nicio­dată. Din 2006, antreprenorul investește milioane de dolari în cercetări în încercarea de a învinge moar­tea. Nu este exclus să fi fost influențat și de futuro­lo­gul Ray Kurzweil, care prezice sfârșitul erei umane și apariția unei noi forme de suprainteligență, care vor con­tinua să se îmbunătățească și să avanseze tehnologic într-un ritm uluitor.

Nick Boström, filosof la Universitatea Oxford și spe­cializat în studii transumaniste, argumentează în lucrarea „Superintelligence“ că ne apropiem de punc­tul în care inteligența artificială va depăși inteligența umană. Boström avertizează că, dacă acest lucru se întâmplă, noua suprainteligență i-ar putea înlocui pe oameni ca „formă de viață“ dominantă pe Pământ. Ma­șinile cvasiumane își vor putea îmbunătăți continuu și mult mai rapid propria inteligență decât inventatorii lor complet umani. Monstrul ar pu­tea ușor să se întoarcă împotriva doctorului Frankenstein. În timp ce Kurzweil privește această singularitate cu op­timism, Boström (și alții, inclusiv Musk, așa cum a avertizat) crede că ne îndreptăm spre o ca­tastrofă existențială.

Editarea genetică

Nici nu trebuie să așteptăm acest viitor pentru a vorbi de dezavantajul moral al transumanismului, crede Taplin. Problemele care azi țin de inegalitatea socială se vor multiplica exponen­țial pe fondul adoptării îmbunătățirilor biologice la care Thiel și alții ca el se gândesc. Cei care se opun sau cei cărora li se va refuza îmbunătățirea, în timp, vor deveni supușii clasei… îmbunătățite.

Toți cei patru „tehnocrați“ pot fi considerați drept niște libertari. În general, libertarii ar argumenta că, dacă îmbunătățirea genetică sau tehnologică a oamenilor este posibilă, atunci aceștia ar trebui să aibă libertatea de a-și îmbunătăți inteligența, aspectul sau speranța de viață. Doar că aceste îmbunătățiri nu vor fi ieftine, iar odată ce elitele au acces la ele, cei „ne­îmbunătățiți“ vor fi nevoiți să lupte pentru a ob­ține îmbunătățiri necesare rămânerii în această nouă cursă.

Instrumentul de editare genetică CRISPR-Cas9, de exemplu, a fost deja folosit în China pentru a modifica embrioni umani nonviabili, aparent pentru a ve­dea dacă se poate face acest lucru. Au fost făcute ce­reri către autoritățile de reglementare din Marea Britanie și către cele din Statele Unite ale Americii pentru a face experimente cu acest instrument, cu scopul de a edita genele mutante ce ar putea cauza anu­mite boli grave, în cea mai mare parte foarte rare.

Istoria progresului tehnologic ne arată că, dacă poate fi făcut ceva, în cele din urmă un cercetător am­bițios va face acest lucru. Așa că va veni și ziua când embrionul pe care un cuplu l-a creat in vitro va fi testat pentru mai multe caracteristici, iar pă­rin­ților li se va prezenta o listă de genul – risc mai mare de­cât media pentru diabet de tip 2 și cancer de colon, risc mai mic decât media pentru astm și autism, ochi închiși, păr șaten deschis, chelie de tip mascu­lin și tot așa. Și va depinde de fiecare să decidă dacă do­rește (și la un preț foarte mare) să editeze genele em­brionului înainte de implantare.

Peter Thiel (55 de ani) pare deschis la strategii extreme care ar putea să-i prelungească viața. „Sunt interesat de parabioză… au injectat sânge tânăr în șoarecii mai în vârstă și au descoperit că are un efect masiv de întinerire“, le declara Thiel celor de la Inc. (În 2017, Thiel nega că ar fi folosit personal astfel de transfuzii).

Thiel susține și Fundația Methuselah, care sponso­ri­zează anual Premiul Methuselah Mouse, acordat echipei de cercetare care depășește recordul pentru cel mai bătrân șoarece din lume, iar al doilea premiu este dat echipei care dezvoltă cea mai bună strategie de reîntinerire pentru șoareci.

Absurd? Desigur. Prelungirea în laborator a duratei de viață a unor organisme este departe de a prelungi și viețile oamenilor cu multe decenii sau de a inversa procesul de îmbătrânire umană.

Sfârșitul realității

Unul dintre părinții terme­nu­lui „transumanism“ (alături de Julian Huxley), crip­tologul englez Irving John Good, scria în 1965: „Dat fiind că proiectarea unei mașini este una dintre aceste activități intelectuale, o mașină ultrainteli­gentă ar putea proiecta mașini chiar mai bune. Ar exista, apoi, fără îndoială, o «explozie a inteligenței», iar inteligența omului ar rămâne departe în urmă. Ast­fel, prima mașină ultrainteligentă este ultima in­venție pe care omul ar mai trebui să o facă vreodată“. Astăzi, ChatGPT ne îndreaptă în acea direcție.

Această viziune a viitorului este atât de în deza­cord cu convingerile lui Jonathan Taplin, încât acesta simte nevoia să-l citeze pe filozoful grec Epicur pentru a defini ce în­seamnă o viață bună și împlinită: compania prietenilor buni, libertatea și autonomia de a te bu­cura de o muncă plină de satisfacții și o viață construită în jurul unei credințe sau filozofii de bază.

Ei bine, transumaniștilor care construiesc meta­ver­sul, inteligența artificială generativă și tehnolo­giile de prelungire a vieții nu pare să le pese dacă aceste trei elemente sunt întrunite sau nu – dacă prie­tenii tăi sunt avataruri ale căror identități reale sunt ascunse, nu ai compania unor prieteni buni. Dacă stai acasă toată ziua cu o cască de realitate virtuală (pentru că locul tău de muncă a fost preluat de o inteligență ar­ti­ficială), trăind din plățile universale de bază ale guvernului, nu ai nici libertatea, nici autonomia de a mai avea satisfacția muncii. Iar dacă mare parte din ceea ce faci se ba­zează pe o existență virtuală, cu sigu­ranță nu ai o viață construită în jurul unor principii de bază. Vei fi devenit un cyborg la sfârșitul rea­­lității.

Gloria lumii. Care lume?

Convergența om-com­pu­ter ridică multe chestiuni etice pe care societatea umană va trebui să le pună în discuție. Până acum, cercetătorii și companiile au fost lăsați să decidă li­mi­tele etice. Posibilitatea unei inteligențe artificiale generalizate (AGI), în sensul capacității unei entități inteligente de a înțelege sau învăța orice sarcină in­te­lectuală pe care un om o poate face, a determinat mulți oameni de știință de renume să se îngrijoreze.

În 2012, chiar celebrul fizician englez Stephen Haw­king intervenea și el pe subiect: „În fața unor po­sibile scenarii de viitor cu beneficii și riscuri incalculabile, ex­perții ar trebui să facă tot posibilul pentru a asigura cel mai bun rezultat, nu? Greșit. Dacă o civilizație ex­tra­terestră superioară ne-ar trimite un mesaj spu­nând «vom ajunge în câteva decenii», am răspunde doar «OK, sunați-ne când ajungeți, vom lăsa lumina aprinsă»? Cel mai probabil, nu. Ei bine, cam asta se întâmplă cu inteligența artificială“.

Așa cum observa Eliezer Yudkowsky, analist specializat în AI, cofondator al Institutului de Cercetare a Inteligenței Artificiale, sunt oameni foarte ambițioși pentru care distrugerea lumii pare mai puțin înspăi­mân­tătoare decât să nu realizeze ei personal ceva. „Iar toți cei care cred că vor câștiga faimă veșnică prin proiectele lor de inteligență artificială sunt de acest fel“, mai spune Yudkowsky.

Antireligia

Filosoful britanic Toby Ord, în lucra­rea sa revoluționară „The Precipice: Existential Risk and the Future of Humanity“, descrie scenariul real de care mulți cercetători din domeniul inteligenței artificiale se tem. Ord menționează că, într-un sondaj din 2018 printre cei mai buni cer­cetători AI, „jumă­tate dintre ei au estimat că există o probabilitate de 5% ca impactul pe termen lung al inteligenței artificiale generalizate (AGI) să fie «extrem de nefast (până chiar la extincția umană)»“. Acum, întrebarea este cât de des ai un domeniu în care o proporție semnificativă dintre participanți cred că există o probabilitate de 1 la 20 ca munca lor să pună capăt vieții așa cum o știm acum?!

Ar mai fi un aspect – cei care inventează această lume a suprainteligenței mașinilor și a bioingineriei sunt antireligioși, deși, paradoxal, vor să fie zei. După cum scriitorul și comentatorul englez G.K. Chesterton susți­nea în 1932: „În realitate, antireligia este opiul popo­ru­lui. Acolo unde oamenii nu cred în ceva care este dincolo de lume, ei vor adora lumea și, mai presus de toate, vor adora ceea ce consideră cel mai puternic lucru din lume“.

Iar astăzi, cel mai puternic lucru din lume este acest Big Tech. Atât timp cât ne închinăm la templul Sfântului Peter sau Elon, sau Zuck, sau Marc, riscăm să ajungem captivi în viitorul pe care ei și-l doresc cel mai mult.

Riscuri și măsuri

Legea privind inteligența artificială ar urma să prevadă că sistemele AI trebuie suprave­gheate de oameni, nu prin procese automatizate.

• AVERTISMENT. Istoricul și antropologul israelian Yuval Noah Harari trăgea recent un semnal de alarmă, afirmând că „sistemul de operare al omenirii a fost spart. Putem încă reglementa noile instrumente AI, dar trebuie să acționăm rapid“.
• REGLEMENTARE. Folosirea inteligenței artificiale în Uniunea Europeană urmează să fie reglementată de prima lege cu­prin­zătoare pentru AI din lume. Prioritatea este de a se asigura că sistemele IA folosite în UE sunt sigure, transparente, trasabile, nediscriminatorii și ecologice.