ANTHROPOS. REVISTA DE FILOSOFIE, ARTE ȘI UMANIOARE

Robert Coravu

Apocalipsa tehnologică

Sfârșitul lumii cauzat de tehnologia manipulată malefic sau scăpată de sub control este una dintre modalitățile omului postmodern de a-și reprezenta apocalipsa. De la temerea unora dintre oamenii de știință implicați în proiectul Manhattan că bomba atomică pe care au testat-o pe 16 iulie 1945 ar fi putut să aprindă atmosfera și să ducă la dispariția vieții de pe Pământ până la angoasele de dată recentă legate de posibilitatea ca inteligența artificială generală – softuri cu o inteligență similară celei a omului și capacitate de autoînvățare – să devină o realitate care se va întoarce împotriva celor care au generat-o, imaginarul apocaliptic a înglobat, alături de cataclismele naturale, o diversitate de cauze de sorginte umană.

Apocalipsa nucleară este scenariul în care omul deține cel mai mare control asupra sfârșitului. Omul prometeic, cel care creează mijloacele prin care își modifică sau manipulează mediul a inventat în cele din urmă focul care are puterea să-i transforme lumea în cenușă. Deveniți stăpâni ai apocalipsei, deoarece avem puterea să o declanșăm, acum trăim permanent sub amenințarea ei [1]. Întâlnim frecvent estimări referitoare la capacitatea arsenalului nuclear actual de a distruge planeta [2]. Declanșarea unui conflict nuclear între marile puteri ale lumii pare un scenariu de neconceput din punct de vedere rațional; din acest motiv, ni se spune, doctrina distrugerii reciproce asigurate garantează pacea: nicio entitate deținătoare de arsenal nuclear nu ar îndrăzni să lanseze un atac nuclear de teama catastrofei care ar urma. E o teorie care nu ia în calcul accidentele/erorile umane care ar putea să genereze un asemenea conflict și, pornind de la ipoteza deciziilor raționale, ignoră fanatismul celor pentru care răsplata dintr-o lume „de dincolo” justifică orice acțiune, inclusiv distrugerea lumii „de aici”.

O amenințare cunoscută pare mai puțin neliniștitoare decât una presupusă. Nu ne gândim obsesiv la iarna nucleară, după cum locuitorii unei regiuni cu activitate seismică puternică nu se gândesc în fiecare zi că și-ar putea pierde viața în urma unui cutremur devastator, deși probabilitatea ca acesta să se producă e mai ridicată decât în alte părți ale lumii. În schimb, spectrul unor catastrofe imaginate generează angoase puternice. Ingineria genetică, biotehnologia, nanotehnologia, energia nucleară sau inteligența artificială sunt doar câteva dintre subiectele unor scenarii catastrofice care pornesc de la premisa tehnologiei scăpate de sub control. Preocuparea față de efectele negative ale unor intervenții asupra naturii cu privire la care omul nu a reflectat îndeajuns nu este însă de dată recentă. Ficțional, o întâlnim pentru prima dată la Mary Shelley (1831), al cărei Frankenstein este rezultatul unui experiment realizat fără preocupare pentru consecințe, și ulterior, în bogata literatură science fiction construită în jurul acestei teme. În planul realității, inteligența artificială generativă este cel mai recent exemplu de tehnologie al cărei impact a început să fie întrezărit și a cărei reglementare a devenit o preocupare abia după lansarea ei.

Teama de a nu scăpa de sub control rezultatele inventivității noastre tehnico-științifice este întreținută de viteza cu care le producem și le perfecționăm. Ritmul progreselor tehnologice ne pune sub presiune capacitatea de a reflecta asupra impactului lor, iar motivația de a dezvolta tehnologii din ce în ce mai performante, care să realizeze sarcini mai bine și/sau mai ieftin decât concurența, deci să facă diferența din punct de vedere economic, să genereze profit descurajează însăși declanșarea acestei reflecții. Chiar atunci când se realizează, cât de eficient poate fi un asemenea demers previzional? Günther Anders consideră că omul a devenit incapabil să-și reprezinte adecvat instrumentele pe care le creează, care sunt din ce în ce mai complexe și mai autonome în raport cu producătorul lor uman fatalmente limitat (muritor, „perisabil”) [3]. Decalajul dintre capacitatea de a produce instrumente cu funcții avansate și capacitatea de a ni le reprezenta nu pune într-o lumină favorabilă pretenția noastră de a le prevedea toate efectele.

În 1993, Vernor Vinge, om de știință și în același timp autor de literatură SF descria un „zid opac” care ne împiedică să ne imaginăm cum va arăta societatea după ce – și dacă – singularitatea tehnologică va deveni realitate, adică ulterior momentului în care o mașină ar deveni mai inteligentă decât omul [4]. În acel moment al evoluției lor, tehnologiile ar fi atât de avansate încât ar depăși iremediabil capacitatea noastră de a le înțelege sau controla; ceea ce ar urma este imposibil de prevăzut tocmai din cauză că vom fi pierdut controlul. Dacă, de pildă, inteligența artificială ar deveni adaptabilă, autonomă, capabilă să ia decizii proprii, să realizeze sarcini pentru care nu a fost programată în mod specific și să înțeleagă contextul în care acționează, ar exista nu doar riscul să preia controlul ci și să decidă că suntem periculoși și/sau inutili, deci dispensabili și să acționeze în consecință. Sfârșitul adus de schimbările fundamentale produse de singularitate la nivelul societății este unul dintre scenariile apocalipsei tehnologice.

Impredictibilitatea viitorului tehnologic se reflectă în contradicțiile din opiniile specialiștilor cu privire la momentul, modalitatea sau posibilitatea de producere a unor presupuse schimbări radicale. În vreme ce tehno-pesimiștii fac previziuni apocaliptice, tehno-optimiștii proiectează pe „zidul opac” imagini paradisiace. Utopiștii moderni cred că progresul este inevitabil și determinat direct de evoluția tehnologiei, care va rezolva toate problemele umanității și va duce la apariția societății perfecte. Cum promisiunea unei societăți perfecte e familiară prin partea noastră de lume, cunoaștem pericolul pe care-l reprezintă iluzia infailibilității care se construiește pe fundamentul unei cauze bune. Încrederea oarbă în finalitatea pozitivă a tehnologiei anulează abordarea critică a impactului ei în societate și reprezintă unul dintre cele mai mari riscuri pentru viitor.

***

1. Günther Anders, Obsolescența omului, vol. I: Despre suflet în epoca celei de-a doua revoluții industriale, Tact, Cluj-Napoca, 2013, pp. 289, 292.

2. Vezi, de pildă, „Iarna eternă”: Mai mult de jumătate din populația Pământului ar muri de foame în urma unui război nuclear (Science), 18.08.2022, https://bit.ly/47kQm0p, consultat la 27.12.2023.

3. Apud Nicoleta Szabo, „Prefață”, în: Günther Anders, Stenograme filosofice, Tact, Cluj-Napoca, 2013, p. 16

4. Vernor Vinge, Technological Singularity, January 2003, http://cmm.cenart.gob.mx/delanda/textos/tech_sing.pdf, consultat la 28.12.2023. Textul citat reprezintă o versiune cu modificări minore (corecturi, adnotări) a articolului din 1993.

INDICAȚII DE CITARE:

Robert Coravu „Apocalipsa tehnologică” în Anthropos. Revista de filosofie, arte și umanioare nr. 12/2023

Acest articol este protejat de legea drepturilor de autor; orice reproducere / preluare integrală sau parțială, fără indicarea sursei, este strict interzisă.