Strategia de Inteligență Artificială a NATO, adoptată de Miniștrii Apărării Aliați în octombrie 2021, a stabilit cadrul Alianței pentru adoptarea responsabilă a AI în întreaga gamă de operațiuni militare și civile. Deși strategia în sine este un document de politici la nivel înalt, a generat un set de cerințe și așteptări concrete care se traduc direct în criterii de achiziție pentru software de apărare cu AI. Înțelegerea acestor cerințe nu este opțională pentru furnizorii de software care doresc să vândă capabilități AI pe piața NATO — este o cerință de calificare de bază.
Strategia a continuat să se dezvolte din 2021. Conceptul Strategic 2022 a consolidat AI ca domeniu tehnologic prioritar. Programul DIANA (Defence Innovation Accelerator for the North Atlantic) a integrat principiile strategiei în criteriile sale de evaluare. Iar statele membre individuale NATO au tradus principiile la nivel de Alianță în cerințe de achiziție naționale.
Strategia AI NATO: Șase Principii ale AI Responsabile
Esența strategiei AI a NATO este un set de șase principii pentru utilizarea responsabilă a AI în apărare. Aceste principii au fost dezvoltate în concordanță cu Principiile OCDE privind AI și reflectă angajamentul Alianței de a menține supravegherea umană și constrângerile etice asupra sistemelor AI chiar și sub presiunea operațională. Cele șase principii sunt:
Legalitate: Aplicațiile AI trebuie dezvoltate și utilizate în conformitate cu legislația națională și internațională, inclusiv dreptul internațional umanitar și dreptul drepturilor omului. Pentru furnizorii de software, aceasta înseamnă că sistemele AI destinate utilizării operaționale militare trebuie proiectate cu constrângeri explicite care să le împiedice să permită utilizări ilegale.
Responsabilitate și răspundere: Trebuie să existe răspundere clară și neambiguă pentru sistemele AI, atât în timpul dezvoltării cât și în utilizarea operațională. Acest principiu are implicații semnificative pentru arhitectura sistemelor AI — necesită trasabilitate clară de la rezultatele sistemelor AI la factorii de decizie umani care acționează pe baza acestor rezultate.
Explicabilitate și trasabilitate: Aplicațiile AI trebuie să fie inteligibile și trasabile într-un mod adecvat contextului de utilizare. Aceasta este una dintre cele mai tehnic solicitante principii pentru furnizorii AI, deoarece multe abordări AI cu performanță ridicată (în special modelele de învățare profundă) sunt inerent dificil de explicat. Așteptarea NATO nu este că toate sistemele AI trebuie să utilizeze abordări inerent interpretabile, ci că furnizorii trebuie să poată furniza explicații adecvate contextual ale comportamentului sistemului.
Fiabilitate: Aplicațiile AI trebuie să funcționeze fiabil în conformitate cu scopul lor intenționat în întreaga gamă de condiții operaționale — nu doar în condiții de testare. Aceasta reflectă direct distincția testat în luptă vs. testat în laborator: un sistem care funcționează fiabil într-un mediu de testare, dar se deteriorează neașteptat în condiții operaționale, nu îndeplinește principiul fiabilității.
Guvernabilitate: Sistemele AI trebuie proiectate pentru a permite supravegherea și controlul uman adecvat, cu capacitatea de a interveni, ajusta sau dezactiva funcțiile AI după cum este necesar. Acest principiu se traduce în cerințe arhitecturale concrete: sistemele AI trebuie să expună interfețe de prioritate umană, trebuie să răspundă previzibil și imediat comenzilor de prioritate și nu trebuie să manifeste comportamente emergente care să ocolească mecanismele de control uman.
Atenuarea prejudecăților: Trebuie depuse eforturi pentru a minimiza prejudecățile neintenționate în aplicațiile AI care ar putea afecta luarea deciziilor, în special în aplicațiile care afectează persoanele. Pentru aplicațiile ISR și de targetare, aceasta necesită teste documentate pentru disparități de performanță în diferite condiții de mediu, tipuri de ținte și surse de date.
Cerințe pentru Sistemele AI: Explicabilitate, Auditabilitate, Robustețe
Traducând cele șase principii în cerințe de achiziție, cele mai consecvent citate cerințe tehnice pentru sistemele AI NATO sunt explicabilitatea, auditabilitatea și robustețea. Aceste trei cerințe sunt interconectate și împreună definesc standardul practic de conformitate pentru software-ul AI de apărare.
Explicabilitatea în context NATO nu înseamnă că sistemul AI trebuie să furnizeze o explicație tehnică completă a elementelor interne ale modelului său. Înseamnă că pentru un anumit rezultat sau recomandare, sistemul trebuie să poată furniza o explicație adecvată contextual care să permită operatorului uman să evalueze recomandarea. Nivelul de explicabilitate necesar este calibrat la nivelul de autoritate decizională implicat.
Auditabilitatea necesită că comportamentul sistemului AI poate fi reconstruit ulterior pentru revizuire, fie pentru învățare operațională, investigarea erorilor sau răspundere legală/politică. Aceasta înseamnă că sistemele AI trebuie să-și înregistreze intrările, procesele de raționament și rezultatele cu suficiente detalii pentru a permite analiza post-hoc. Cerințele de jurnalizare pentru sistemele militare clasificate sunt stringente și trebuie luate în considerare în arhitectura sistemului de la bun început.
Robustețea abordează performanța sistemului în condiții de schimbare a distribuției — când intrările operaționale diferă de distribuția datelor de instruire. Mediile militare sunt caracterizate de exact acest tip de schimbare a distribuției: senzorii funcționează în condiții care nu au fost reprezentate în datele de instruire, adversarii încearcă activ să creeze intrări care să înșele sistemele AI. Demonstrarea robustetii necesită teste adversariale sistematice și evaluarea performanței în diverse condiții de mediu.
Concluzie cheie: Cerințele AI ale NATO nu vizează în principal limitarea capacității AI — ele vizează crearea încrederii în sistemele AI suficientă pentru a permite adoptarea lor operațională. Un furnizor care încadrează conformitatea cu principiile AI NATO ca o constrângere ratează punctul esențial. Principiile există deoarece sistemele AI care nu pot fi explicate, auditate sau contramandate nu vor fi adoptate de utilizatorii militari operaționali indiferent de performanța lor tehnică.
Implicații pentru Furnizorii de Software de Apărare
Pentru furnizorii de software care dezvoltă produse de apărare cu AI, strategia AI NATO are implicații concrete pentru dezvoltarea produselor, documentație și poziționarea pe piață. Cele mai importante sunt:
Proiectați pentru explicabilitate de la bun început. Alegerea arhitecturilor de modele și abordărilor de instruire care susțin explicabilitatea este semnificativ mai ieftină decât adăugarea ulterioară a mecanismelor de explicație. Pentru furnizorii care lucrează în viziune computerizată, Grad-CAM și metodele de atribuire similare ar trebui să fie caracteristici standard.
Documentați datele de instruire și metodologia de testare. Evaluatorii de achiziție NATO vor întreba despre proveniența datelor de instruire, metodologia de etichetare și compoziția setului de testare. Menținerea unui card de model pentru fiecare componentă AI — documentând datele de instruire, referințele de performanță, limitările cunoscute și condițiile de utilizare adecvate — este standardul minim de documentație pentru produsele AI aliniate NATO.
Construiți prioritatea umană în arhitectură, nu ca o idee secundară. Principiul de guvernabilitate înseamnă că prioritatea umană trebuie să fie o caracteristică arhitecturală, nu o soluție procedurală de avarie. Sistemele care necesită navigarea prin mai multe ecrane pentru a anula o recomandare AI sau care nu disting clar între recomandările AI și deciziile umane validate, sunt puțin probabile să treacă evaluarea de achiziție NATO.
Cadre de Guvernanță AI: ALTAI și Actul UE privind AI
Dincolo de cerințele specifice NATO, furnizorii AI de apărare care operează în Europa trebuie să navigheze și cadrul de guvernanță AI al UE. Actul UE privind AI, care a intrat în vigoare în 2024, include o scutire specifică pentru sistemele AI utilizate exclusiv pentru scopuri militare și de securitate națională, ceea ce înseamnă că aplicațiile AI pur militare nu sunt supuse cerințelor de evaluare a conformității ale Actului. Cu toate acestea, sistemele AI cu dublă utilizare pot intra sub categoria AI cu risc ridicat a Actului, declanșând cerințe de evaluare a conformității, marcare CE și înregistrare în baza de date AI a UE.
Lista de Evaluare pentru AI Demn de Încredere (ALTAI), dezvoltată de Grupul de Experți la Nivel Înalt al UE privind AI, furnizează un instrument de autoevaluare care se aliniază îndeaproape atât cu cele șase principii ale NATO cât și cu cerințele Actului UE privind AI. Utilizarea ALTAI ca o listă de verificare de dezvoltare creează un parcurs documentat al dezvoltării AI responsabile util atât în contextele de achiziție NATO cât și UE.