Tehno-geopolitica securităţii globale şi autocraţia digitală în epoca inteligenţei artificiale

Paradigme tehno-geopolitice în epoca tehnologiilor disruptive

Dezvoltările inteligenţei artificiale din ultima decadă, datorate în mod special creşterii exponenţiale a vitezelor maşinilor de calcul şi a capacităţilor de stocare a datelor, au creat noi temeri şi teme politice, economice şi etice, izvorâte din impactul prezumat al inteligenţei artificiale asupra viitorului omenirii. Privite prin filtrul critic al studiului securităţii, astfel de teme creează un nou câmp de analiză, denumit de unii autori tehno-politică, cu referire la „acţiunea politică, comunicarea politică şi managementul politic puse în scenă prin intermediul tehnologiei”. Însă, având în vedere anvergura impactului noilor tehnologii asupra securităţii globale, aş denumi acest nou spaţiu de studii strategice tehno-geopolitică, domeniu care analizează modalitatea în care inteligenţa artificială şi celelalte tehnologii disruptive modelează securitatea naţională prezentă şi viitoare şi, mai ales, felul în care evoluţiile tehnologice erodează reperele definitorii ale statului-naţiune şi comportamentul statelor în cadrul sistemului internaţional.

Temele dominante ale perioadei actuale provin din potenţialul simbolic al inteligenţei artificiale de a ieşi de sub controlul inteligenţei umane şi de a face trecerea către „singularitate”, respectiv din pragmatismul prezumat al unui viitor mai mult sau mai puţin îndepărtat în care roboţii inteligenţi îi vor înlocui pe oameni în aproape orice domeniu economic sau social. De altfel, întregul construct se bazează pe acceptarea premiselor că maşinile de calcul beneficiază de ascendentul raţionalităţii „absolute”, acea calitate de a nu greşi niciodată şi, mai mult, de a la spune oamenilor, fără false emoţii, ceea ce îşi doresc să audă, oricând şi oriunde va fi nevoie.

Sunt încă mulţi cei care consideră că inteligenţa artificială nu va fi niciodată altceva decât ceea ce oamenii vor face să fie. În această logică, nivelul său de acurateţe ar fi determinat de calitatea analizelor de proces realizate de experţi, iar performanţa sa ar fi expresia măiestriei programatorilor în a scrie şi a împleti armonios coduri de programare. Prin urmare, indiferent de modalitatea de manifestare a inteligenţei artificiale, tot oamenii ar deţine controlul asupra scopului, formei de manifestare şi rezultatelor sale. Altfel spus, inteligenţa artificială nu va putea fi arătată cu degetul pentru impersonalizarea „lucrurilor murdare” care s-ar putea petrece cu aportul tehnologiei, indiferent de motivaţii şi circumstanţe.

Cu toate acestea, inteligenţa artificială a început să înveţe singură. Învaţă din propriile lecţii şi îşi îmbunătăţeşte rezultatele prin autoevaluare şi eliminarea autonomă a erorilor de programare. Urmăreşte comportamentele umane din spaţiul virtual şi preia sarcinile oamenilor prin reproducerea acţiunilor lor repetitive. Intră în dialog prin text, voce şi video cu fiecare individ pentru a îi răspunde la întrebări şi pentru a îi oferi soluţii personalizate în situaţii din ce în ce mai complexe. Creează scenarii alternative pentru deciziile grele şi anticipează riscurile pentru a propune căi mai scurte şi sigure către succes. Ne urmăreşte prin „ochii” săi dispuşi peste tot în spaţiul înconjurător şi ne evaluează dorinţele şi interesele prin intermediul senzorilor încorporaţi în aproape fiecare obiect care ne face viaţa mai confortabilă. Deocamdată, relaţia noastră cu inteligenţa artificială se bazează pe liberul nostru consimţământ şi pe încredere, într-o nouă formă de delegare de „suveranitate”, în care cedăm puţin câte puţin din libertatea de a decide către tehnologie. Însă, sunt din ce în ce mai mulţi cei care consideră că astăzi ne aflăm în pragul simbiozei depline dintre om şi maşină, dincolo de care inteligenţa artificială va domina şi folosi fiinţa umană pentru a crea o nouă lume. Această nouă lume va fi dominată de cei care vor deţine supremaţia tehnologică. Lupta pentru dominaţie a început.

Indiferent de perspectivă, efectele evoluţiilor tehnologice asupra societăţii umane vor fi uriaşe. Se produc, deja, transformări majore, iar problemele de securitate pe care le ridică acestea capătă amploare. De aceea, binomul dintre tehnologie şi securitate oferă semasiologia prevalentă în dezbaterile strategice şi politice ale prezentului. Tehno-geopolitica lumii super-tehnologizate, în care statele şi indivizii interacţionează într-o cu totul altă manieră decât au făcut-o în trecut, oferă teme care invadează agendele de securitate cu un limbaj preţios şi cu teme abstracte. Majoritatea marilor platforme de analiză şi prognoză de securitate naţională şi globală consideră inteligenţa artificială şi tehnologiile disruptive drept cele mai mari provocări contemporane la adresa omenirii. Marile cancelarii lucrează la politici şi strategii prin care urmăresc să îşi asigure supravieţuirea într-o lume profund tehnologizată. Organizaţiile internaţionale sunt din ce în ce mai mult preocupate de soarta omenirii hiper-informatizate, o lume prinsă în strânsoarea reţelelor globale de calculatoare şi apăsată de „norii” uriaşi de date către care migrează masiv toate informaţiile vitale ale prezentului.

Spre exemplu, tema centrală a conferinţei Forumului Economic Mondial de anul acesta a fost Globalizarea 4.0. Laitmotivul dezbaterilor a fost modalitatea în care „a Patra Revoluţie Industrială aduce o schimbare fundamentală a felului în care oamenii trăiesc, muncesc şi interacţionează. […] Aceste evoluţii îmbină lumile fizică, digitală şi biologică în moduri care creează, în egală măsură, promisiuni uriaşe şi pericole potenţiale. Viteza, cuprinderea şi profunzimea acestei revoluţii ne forţează să regândim felul în care ţările se dezvoltă, organizaţiile creează valoare şi chiar ceea ce înseamnă să fii fiinţă umană”. Raportul de securitate 2019 prin care a fost anticipată agenda Conferinţei de securitate de la München, de la începutul acestui an, include inteligenţa artificială între marile probleme globale ale momentului, alături de dezintegrarea sistemului internaţional de control al armamentului nuclear, ascensiunea protecţionismului comercial şi criminalitatea organizată transfrontalieră. Printre argumentele pentru a include inteligenţa artificială într-un club atât de „select” al problemelor de securitate se regăsesc: democratizarea cercetării din domeniul tehnologiilor duale produsă prin preluarea de către cercetarea civilă, în detrimentul celei militare, a poziţiei dominante în furnizarea de tehnologii din domeniul inteligenţei artificiale şi „transformările semnificative ale forţelor armate induse de inteligenţa artificială, în mod specific de tehnologiile care conferă autonomie şi suport decizional şi care accelerează viteza de derulare a conflictelor”. Organizaţia Naţiunilor Unite a organizat în luna mai Summit-ul inteligenţei artificiale la Geneva, cu scopul de a oferi „cea mai importantă platformă de dialog asupra inteligenţei artificiale” pornind de la „întrebările complexe [ridicate de noile tehnologii] cu privire la intimitate şi încredere, pierderea locurilor de muncă şi algoritmii părtinitori, armele autonome şi manipularea socială”. Totodată, statele s-au lansat deja în noua cursă globală pentru supremaţie în domeniul inteligenţei artificiale, elaborând politici şi strategii dedicate şi realizând investiţii uriaşe în cercetarea şi dezvoltarea tehnologiilor disruptive care utilizează acest tip de inteligenţă.

Autoritarismul digital şi perspectiva unei noi bipolarităţi ideologice globale

Poate părea surprinzător că, în pofida conturării unor noi paradigme politice, economice şi sociale, efortul organizaţiilor internaţionale şi al statelor este consumat mai degrabă pentru a prezerva regulile actualului sistem internaţional şi fundamentele tradiţionale de suveranitate, integritate teritorială şi identitate naţională ale statelor care îl compun, decât de a se adapta la schimbare. Măsurile de natură protecţionistă urmăresc integrarea noilor tehnologii în modelele consacrate de comportament al diferiţilor actori activi în spaţiul securităţii comune. Această tendinţă creează potenţialul unui nou tip de coliziune cu anvergură civilizaţională, care poate produce fragmentări şi polarizări cu efecte greu de anticipat, contrar sensului firesc al integrării şi deschiderii spre cooperare conferit de tehnologie.

Între acestea, utilizarea inteligenţei artificiale ca mijloc pentru exercitarea puterii se individualizează ca una dintre cele mai mari provocări de securitate într-un viitor nu prea îndepărtat. Beneficiul primar al inteligenţei artificiale se regăseşte în capacitatea conferită de aceasta maşinilor de calcul pentru a lua decizii mai bune decât oamenii. Calculatoarele se raportează mult mai bine la gradul de realizare a utilităţii programate iniţial, cu implicarea din ce în ce mai redusă sau chiar în absenţa programatorilor. Performanţa algoritmilor complecşi de decizie depinde de puterea de achiziţie, reprezentare, analiză şi manipulare a informaţiilor în scopul îndeplinirii sarcinilor primite, satisfacerii aşteptărilor şi alimentării percepţiilor consumatorilor umani. Beneficiile sunt uriaşe. Impactul este atât de mare, încât performanţa, confortul şi bunăstarea vor fi redefinite curând în limbaj binar. Însă, pentru că uneori „mai binele este duşmanul binelui”, puterea inteligenţei artificiale poate acţiona ca o sabie cu două tăişuri.

Prin influenţarea directă şi controlul aşteptărilor şi percepţiei gradului de realizare a utilităţii, fie aceasta economică sau socială, inteligenţa artificială se poate transforma într-un instrument puternic al guvernelor pentru influenţarea comportamentului şi controlul direct al acţiunilor propriilor cetăţeni, într-o nouă formă de autoritarism de natură cibernetică. Naşterea acestei noi forme de guvernare aduce o umbră de îndoială asupra conceptului de e-stat. Un stat care înlocuieşte administraţia, sau cel puţin interfaţa cu aceasta, cu aplicaţii informatice capabile să absoarbă şi să valorifice în permanenţă date despre fiecare cetăţean pentru a le include în baze de date masive, super-integrate, dar şi extrem de vulnerabile. Exploatarea neprincipială şi clientelară a unui asemenea tezaur de cunoaştere de un regim intruziv are potenţialul de a modela comportamentele individuale şi sociale pentru a construi motivaţie şi necesitate unei noi forme paradoxale de ideologie postmodernă, denumită deja în unele lucrări autoritarism digital. Paradoxul provine din felul în care destructurarea metanaraţiunilor specifică postmodernismului, favorizată de activarea cibernetică a stimulilor activi ai epocii post-adevăr în care emoţiile şi credinţele şi nu faptele obiective determină comportamentele oamenilor, poate conduce la o restructurare socială controlată în beneficiul unei guvernări autocratice.

Coliziunea autoritarismului digital cu valorile democraţiei liberale este inevitabilă, atât în interiorul societăţilor orwelliene cenzurate prin intermediul inteligenţei artificiale, cât şi pe scena internaţională, în cadrul unui nou tip de competiţie ideologică, purtată în spaţiul cibernetic cu instrumentele şi metodele lumii virtuale. În ambele situaţii ţintele sunt oamenii. Autoritarismul cibernetic va încerca să penetreze cu mijloace sofisticate limitele intimităţii indivizilor pentru a-i alimenta cu mesaje selective în beneficiul regimului şi pentru a le cenzura accesul la informaţiile incomode. Pe de altă parte, guvernele liberale vor încerca să creeze un set de reguli universale pentru utilizarea etică a spaţiului virtual şi pentru garantarea accesului cetăţenilor la întreg spectrul narativ guvernamental, astfel încât să fie împiedicată afectarea percepţiilor prin trunchierea realităţii sau furnizarea de jumătăţi de adevăr. Printre numeroasele „bătălii” care vor avea loc în cadrul marelui conflict, autocraţii vor utiliza inteligenţa artificială pentru a crea şi promova fake news, în timp ce democraţii vor utiliza inteligenţa artificială pentru a bloca fake news.

Controlul societăţii va fi facilitat de capacitatea uriaşă de supraveghere a noilor tehnologii, care vor fi incluse în mecanisme guvernamentale de recompensare a conformismului şi loialităţii prin intermediul „sistemelor de credite sociale”, aşa cum se întâmplă deja în China. Dialogul social virtual pe teme politice sau pe alte teme inconfortabile pentru putere va fi restricţionat de un „mare firewall” naţional, similar actualului „mare zid cibernetic chinezesc”. Acest tool are capacitatea de a cenzura accesul celor 800 milioane de utilizatori ai internetului din China la Google, Facebook, YouTube sau The New York Times. De altfel, China se situează în topul statelor care controlează masiv prezenţa on-line a propriilor cetăţeni, un clasament din care mai fac parte - nicio surpriză - Iran, Siria, Cuba, Arabia Saudită şi Egipt. Imediat după acestea se situează, din nou previzibil, Rusia, Turcia şi Venezuela, conform unui clasament realizat de Freedom House cu referire la anul 2018.

Comparitech a realizat recent un studiu denumit „Care sunt ţările care protejează cel mai bine confidenţialitatea cetăţenilor lor?” din care reiese că „nicio ţară nu asigură o protecţie deplină a intimităţii propriilor cetăţeni, cele mai multe îşi supraveghează activ cetăţenii şi doar cinci state ar putea fi considerate ca asigurând o protecţie adecvată”. Într-un clasament din care fac parte 49 de state, China şi Rusia sunt considerate cele mai intruzive, urmate de India, Thailanda şi Malaezia. România este plasată pe locul 18 la nivelul statelor UE din perspectiva gradului de adecvare a măsurilor pentru protecţia intimităţii cetăţenilor în spaţiul virtual, cu un scor similar cu cel al Poloniei, Belgiei şi Luxemburgului, mai sus de Germania, Italia sau Ungaria, dar mai jos decât Marea Britanie, Olanda sau Bulgaria. De menţionat că SUA sau Australia au scoruri mai slabe decât ţara noastră. Cele cinci state considerate ca oferind o protecţie adecvată propriilor cetăţeni sunt Irlanda, Franţa, Portugalia, Danemarca şi Norvegia.

Este pierdută lupta?

Un stat inteligent îşi apără proprii cetăţeni în faţa ameninţărilor din spaţiul cibernetic, asigurându-le, în primul rând, protecţia acelor date cu caracter personal care le conferă încredere, intimitate şi siguranţă. Împiedicarea manifestării pericolelor care vin din exterior şi a posibilităţii exploatării neetice şi abuzive a informaţiilor individuale în interior, presupune includerea în strategia de securitate naţională a problematicii inteligenţei artificiale şi a noilor tehnologii disruptive, pornind de la asumarea câtorva principii esenţiale izvorâte din reperele definitorii ale democraţiei liberale.

1. Prevenirea constituirii de monopoluri tehnologice în domeniul capacităţilor de supraveghere, control şi manipulare a cetăţenilor, prin asigurarea pluralităţii tehnologiilor suport pentru infrastructurile critice de interes pentru securitatea naţională. Intervenţia statului ar trebui să se regăsească în susţinerea unui mediu concurenţial sănătos şi implementarea unor măsuri inteligente de supraveghere democratică a respectării dreptului individului de a decide asupra gradului de intimitate de care doreşte să beneficieze în raporturile comerciale cu furnizorii de tehnologie.

2. Reglementarea echilibrată a spaţiului virtual şi prevenirea acumulării discreţionare de putere prin controlul platformelor social media şi al marilor baze de date. Guvernele vor trebui să supravegheze respectarea de către giganţii tehnologici a reglementărilor cu privire la gestionarea datelor cu caracter personal şi să preîntâmpine agregarea de informaţii din baze de date şi de pe platforme multiple, mai ales date sensibile precum cele legate de sănătate. Astfel de restricţii ar trebui să fie respectate şi de stat, pentru a fi preîntâmpinate abuzurile care, de regulă, deschid calea spre instaurarea autocraţiei digitale, cu excepţia situaţiilor foarte speciale, în care există date certe cu privire la materializarea unor grave ameninţări la adresa securităţii naţionale, aşa cum sunt, de exemplu, cele de natură teroristă. Mai mult, în autocraţiile digitale, cetăţenii nu vor fi forţaţi doar să îşi schimbe comportamentul, dar şi modalitatea de gândire, pentru a se conforma cerinţelor ideologice ale regimului. Inteligenţa artificială controlată de guvern şi exploatată prin intermediul social media, IoT şi al tuturor celorlalte tehnologii avansate de verificare, supraveghere şi control, are potenţialul de a transforma societatea după un „model de comportament” care va inhiba libertăţile individuale şi dreptul de a se informa şi a decide al oamenilor.

3. Participarea la construirea unui cadru de drept internaţional pentru reglementarea modului în care statele utilizează inteligenţa artificială, tehnologiile social media şi noile tehnologii disruptive. Normele definitorii pentru actualul sistem „fizic” internaţional ar trebui armonizate cu trăsăturile spaţiului cibernetic, astfel încât să fie asigurată „migrarea” valorilor fundamentale ale drepturilor omului şi suveranităţii statale din lumea fizică către lumea virtuală. Dificultatea unui asemenea demers provine din sensibilitatea echilibrului balanţei dintre libertate şi securitate în relaţia dintre stat şi cetăţean, amplificată exponenţial de versatilitatea lumii digitale. În egală măsură, absenţa frontierelor fizice din spaţiul cibernetic ridică unele probleme serioase de interpretare a conceptului de suveranitate naţională şi, implicit, de legitimitate a măsurilor întreprinse de guverne pentru promovarea intereselor naţionale în interiorul acestui spaţiu. Totodată, pentru protejarea democraţiei liberale va fi necesară redefinirea doctrinelor de descurajare şi preemţiune pentru a căpăta temei şi forţă în combaterea expansiunii globale a autocraţiei digitale.

Succesul demersului va depinde de capacitatea strategilor de a adapta modelele actuale de analiză a evoluţiilor de securitate la complexitatea lumii super-tehnologizate. Soluţiile trebuie regândite dincolo de barierele raţionamentelor convenţionale care domină laboratoarele de generare a strategiilor de securitate naţională ale prezentului. Prezenţa activă şi dominantă a unui stat în spaţiul cibernetic global va fi determinată, în primul rând, de capacitatea sa de inovare. Ca urmare, fermitatea primului pas către această nouă lume va fi dată de măsura investiţiilor în cercetarea şi educaţia tehnologică. Abia după aceea va putea fi anticipată obiectiv şi realist cadenţa statului în parcurgerea drumului către lumea super-tehnologizată.