AI în domeniul militar. Care sunt limitele?

Parisul nu a fost ales întâmplător pentru organizarea summitului pentru Inteligenţa Artificială. Aşa cum a transmis ministrul francez al apărării, Sebastien Lecornu, „Franţa vrea să preia conducerea în domeniul Inteligenţei Artificiale”. De altfel, tot în Franţa, în 1951, a avut loc şi primul simpozion al oamenilor de ştiinţă cu privire la domeniul calculatoarelor, iar organizatorii acelui eveniment erau, de fapt, oameni care, într-o formă sau alta, aveau legătură cu domeniul militar. Zeci de ani mai târziu, cu apariţia Inteligenţei Artificiale şi cu un volum tot mai mare de informaţii care trebuie luat în considerare pe câmpul de luptă, statele lumii realizează că această nouă tehnologie ar putea asista militarii pe front sau în centrele de comandă şi, de ce nu, pe viitor, ar putea chiar prelua complet anumite responsabilităţi din mâinile militarilor. Dar sunt toate statele membre NATO pregătite?

Amiralul Pierre Vandier: Suntem deja într-o cursă a IA. Trebuie să ne trezim!

Amiralul Pierre Vandier, comandant suprem aliat al Comandamentului pentru Transformare, în cadrul NATO, a discutat, într-un panel, alături de un reprezentant al ministerului olandez al apărării, Jeroen Van Der Vlugt, despre ce ar trebui să facă statele NATO într-un context în care noile tehnologii se dezvoltă de la o zi la alta.

Potrivit amiralului, „ne aflăm deja într-o cursă a IA. Nu există semne de întrebare cu privire la acest lucru”, iar viteza cu care se dezvoltă IA este una dintre cele mai mari probleme, pentru că presupune schimbări multe la nivelul tuturor statelor membre NATO.  Vandier recunoaşte că este greu, de la conducerea Alianţei, să convingă toate statele să ţină pasul cu AI, mai ales că „sunt greu de convins unele ţări care încă mai vor să ţină datele pe hârtie, închise într-un seif”.  Schimbarea mentalităţii, spune el, începe de la comandanţii militari, care trebuie să îmbrăţişeze noile tehnologii şi să îi inspire şi pe subalternii lor să o facă. Dar este nevoie şi de o schimbare de comportament, a mai spus acesta, pentru că oamenii trebuie să se adapteze prin renunţarea la aşteptările pe care le au de la AI: „Degeaba avem inovaţie dacă nu ne schimbăm comportamentul şi nu facem asta pentru că avem aşteptări. Ne stresează sistemul. Trebuie să schimbăm aşteptările”, a spus Vandier.

Amiralul francez spune că la nivelul Alianţei există mai multe iniţiative care propun îmbrăţişarea AI, iar una dintre acestea presupune educarea angajaţilor cu privire la Inteligenţa Artificială şi algoritmi. Vandier declară că angajaţilor NATO li se trimit lunar pachete cu podcaturi, cursuri şi cărţi audio despre noile tehnologii. „Trebuie să ne trezim” este avertismentul cu care Vandier şi-a conchis discursul ţinut pe scena de la Ecole Militaire.

Partenerul său de panel, reprezentant al ministerului apărării din Ţările de Jos, a vorbit, însă, despre un alt aspect important când vine vorba despre AI: suveranitatea datelor.

„Suveranitatea datelor este o mare problemă. Ce facem? Păstrăm datele şi algoritmii doar la companiile noastre? Sau le externalizăm?” a spus Van Der Vlugt, subliniind că, în Ţările de Jos, este iresponsabil să nu foloseşti AI, nu să o foloseşti.

Mai multe drone cu AI decât piloţi militari

Pe parcursul discuţiilor militare, s-a subliniat care ar fi oportunităţile şi riscurile aduse de introducerea AI în domeniul militar. A fost adesea amintit războiul din Ucraina şi cum acesta atrage atenţia cu privire la dezvoltarea sistemelor moderne de arme, în special la folosirea dronelor cu tehnologie AI. Un editor al ziarului The Economist, specializat în tehnologie, atrăgea chiar atenţia că, nu peste mult timp, numărul de drone va fi mai mare decât numărul piloţilor militari, mai ales că, acum, instrucţia pe un astfel de sistem de drone poate dura şi doar 30 de minute. Importanţa acestor drone pe un câmp de luptă modern, precum cel din Ucraina, a fost subliniată şi în raport cu sistemele de război electronic prezente în acest moment pe piaţa de apărare, asta pentru că acestea îngreunează misiunea unui pilot militar care manevrează, în mod obişnuit, o dronă. Ghidarea dronei, însă, prin AI, ar putea fi o soluţie, pentru că industria de apărare dezvoltă, deja, sisteme autonome care pot permite continuarea zborului dronei chiar şi când se pierde legătura dintre pilotul care are joystick-ul în mână şi drona respectivă.

În acest moment, în spatele tuturor dronelor pe care le vedem pe câmpul de luptă, în războaiele din jurul lumii, se află un pilot care ia decizia înaintea unui atac, de exemplu. La discuţiile militare s-a pus problema, însă, şi a unui viitor în care, pe front, să fie trimise sisteme complet autonome, adică drone, de exemplu, care să nu mai fie manevrate de piloţi militari, ci să ia singure deciziile în baza unor date. Concluzia? Mai este mult de muncă, mai sunt multe lucruri de clarificat, dar acel viitor nu este atât de departe pe cât pare.

Pentru că „riscul de a rămâne în urmă este cel mai mare risc”, aşa cum susţine Nikos Loutas, şef al politicii de date şi AI în cadrul NATO, se discută acum despre limitele acestor sisteme complet conduse de AI pe câmpul de luptă.

 Au fost identificate mai multe riscuri, iar concluzia a fost următoarea: cu cât sunt mai aproape de ţintă aceste sisteme, cu atât sunt mai periculoase. Sistemele complet autonome bazate pe AI nu au ajuns la un nivel de acurateţe îndeajuns de mare încât să poată lua singure decizii pe un câmp de luptă[1], unde situaţia este dinamică, haotică, iar datele se schimbă de la un moment la altul. De asemenea, acestea nu iau în considerare – spre deosebire de oameni – contextul, mai precis, dacă un sistem identifică una sau mai multe ţinte, care trebuie neutralizate, într-o piaţă, nu ar reuşi să acorde importanţă faptului că ar putea fi provocate victime colaterale în urma unui atac. Mai mult decât atât, un sistem complet autonom nu ar putea face diferenţa între un civil şi o persoană care are intenţii ostile, pe un câmp de luptă.

Există şi alte limite care, în acest moment, sunt identificate pe piaţa de apărare şi care necesită timp pentru a fi dezvoltate, dacă vor reuşi să fie. De exemplu, nu pot fi create sisteme care să aplice aceleaşi reguli pentru mai multe conflicte, pentru că războaiele au modele  (eng. patterns) diferite, astfel că un sistem nu poate fi învăţat să reacţioneze mereu la fel. De asemenea, încă nu a fost dezvoltat un sistem care să planifice o campanie militară, aşadar, înlocuirea militarilor sau a factorilor militari de decizie nu este ceva ce se va întâmpla prea curând.

Sunt companii pe piaţă care deja dezvoltă sisteme care integrează AI. Unele dintre ele se află în serviciul unor forţe armate, iar altele se află în faza de testare.

 Am asistat la Paris la o prezentare a unor sisteme produse de Thales, care promit să uşureze munca militarilor. De departe cel mai interesant este un software care poate fi instalat într-un centru de comandă şi control şi care poate oferi militarilor recomandări pentru desfăşurarea unor acţiuni pe câmpul de luptă. Mai precis, acest sistem care utilizează AI propune soluţii pentru cursul unei misiuni, apoi militarul decide dacă ia în considerare recomandările sau nu. Este un sistem care a fost testat la exerciţiul militar Steadfast 2023 şi care se poate integra cu uşurinţă în infrastructura NATO.

Sursă foto: Arhivă personală

Talios – „ochii” aeronavei Rafale

Un alt sistem prezentat de compania Thales este Talios, o capsulă (eng. pod) care poate fi integrată pe aeronave de luptă (a fost testată cu succes pe avioanele Rafale) şi care oferă echipajului militar posibilitatea de a se uita la sol, cu o rază lungă de acţiune. Astăzi, acest sistem este ghidat manual, iar „misiunea” sa poate dura între 10 şi 15 minute, dar Thales vrea să grăbească şi să eficientizeze acest proces de monitorizare, astfel că, prin integrarea IA în sistem, acesta va putea scana obiectivele de la sol pentru a identifica ţintele în doar câteva secunde.

 Ţintele de la sol vor fi prezentate pilotului sub forma unor pătrate de culori diferite, în funcţie de categoriile de ţinte: persoane, vehicule militare, vehicule civile, obiective strategice ş.a. Ulterior, pilotul cere mai multe informaţii despre o anumită ţintă şi, după ce i se prezintă imagini cu aceasta, ia decizia dacă se angajează în luptă sau nu. În 2026, acest sistem cu AI va fi integrat pe avioanele Rafale, dar reprezentanţii Thales spun că poate fi integrat şi pe alte aeronave de luptă, deşi nu au oferit detalii despre ce alte avioane ar mai putea fi vorba.

Sursă: Arhivă personală

Thales a dezvoltat şi sisteme bazate pe AI care pot fi folosite în comunicaţiile radio pentru debruiaj (eng. denoising). Mai precis, prin intermediul Inteligenţei Artificiale, zgomotele auzite de piloţii militari când comunică între ei ar putea fi eliminat pentru a face conversaţia să fie mai clară şi mai înţeleasă. AI poate înlătura chiar şi zgomotul făcut de respiraţia piloţilor, pe lângă zgomotul produs de aeronavă.

Prin intermediul Inteligenţei Artificiale pot fi coordonate şi roiuri de drone. Dacă, în prezent, este necesar ca fiecare dronă să fie coordonată de un pilot militar, prin AI, Thales propune coordonarea a mai multe drone, care să aibă diverse misiuni. Astfel, AI poate coordona, de exemplu, trei drone deodată: una pentru detectare, una pentru interceptare şi una pentru bruiaj. Acest sistem reduce presiunea care există pe operatori asigurând aceeaşi eficienţă a misiunii.

Sursă: Arhivă personală

Poate exista autonomie şi în deminarea maritimă. Compania propune un sistem mobil– care încape într-o valiză – şi care poate, prin intermediul unor sonare cu senzori, detecta obiectele de pe fundul mărilor şi oceanelor şi poate genera imagini pentru fiecare obiect găsit, astfel încât militarii, înainte de a merge pe fundul mării pentru a distruge mina, să fie siguri că este vorba despre o mină marină. Acest sistem funcţionează întâi prin asigurarea unui perimetru în care sunt căutate minele, apoi prin clasificarea obiectelor în culori (la sistemul prezentat erau clasificate drept obiecte nepericuloase cu verde şi minele cu roşu) şi, ulterior, prin generarea de imagini mai clare cu obiectul considerat periculos, adică mina maritimă.

Sursă: Arhivă personală

„AI are potenţialul de a transforma complet câmpul de luptă şi de a oferi superioritate operaţională”, atrage atenţia Philippe Keryer, vice-preşedinte al companiei pentru strategie, cercetare şi tehnologie, care declară că Thales are 600 de experţi în AI la nivelul companiei, preocupaţi de dezvoltarea acestor sisteme. AI trebuie să fie dezvoltat în concordanţă cu menţinerea valorilor etice, a transparenţei, a economicităţii şi a protecţiei securităţii cibernetice, mai spune acesta.