NATO:n tekoälystrategia, jonka liittolaisten puolustusministerit hyväksyivät lokakuussa 2021, on muodostettanut liiton kehyksen vastuulliselle AI:n käyttöönotolle koko sotilaallisten ja siviilioperaatioiden kirjossa. Vaikka strategia itsessään on korkean tason politiikka-asiakirja, se on synnyttänyt joukon konkreettisia vaatimuksia ja odotuksia, jotka muuntuvat suoraan hankintakriteereiksi AI-pohjaiselle puolustusohjelmistolle. Näiden vaatimusten ymmärtäminen ei ole vapaaehtoista ohjelmistotoimittajille, jotka haluavat myydä AI-kyvykkyyksiä NATO-markkinoille — se on perusmäärittelyn vaatimus.
Strategia on jatkanut kehittymistä vuodesta 2021. Vuoden 2022 strateginen konsepti vahvisti AI:n prioriteettiteknologia-alueena. DIANA-ohjelma on integroinut strategian periaatteet arviointikriteereikseen. Ja yksittäiset NATO:n jäsenvaltiot ovat muuntamassa liittokunnan tason periaatteita kansallisiksi hankintavaatimuksiksi.
NATO:n AI-strategia: Kuusi vastuullisen AI:n periaatetta
NATO:n AI-strategian ydin on kuusi vastuullisen AI:n käytön periaatetta puolustuksessa. Nämä periaatteet kehitettiin OECD AI -periaatteiden mukaisesti ja heijastavat liiton sitoutumista ihmisen valvonnan ja eettisten rajoitusten ylläpitämiseen AI-järjestelmissä jopa operatiivisen paineen alla. Kuusi periaatetta ovat:
Lainmukaisuus: AI-sovellukset on kehitettävä ja käytettävä kansallisen ja kansainvälisen oikeuden, mukaan lukien kansainvälisen humanitaarisen oikeuden ja ihmisoikeuslain, mukaisesti. Ohjelmistotoimittajille tämä tarkoittaa, että operatiiviseen sotilaalliseen käyttöön tarkoitetut AI-järjestelmät on suunniteltava eksplisiittisinä rajoituksineen, jotka estävät niiden käyttämisen laittomiin tarkoituksiin.
Vastuu ja vastuullisuus: AI-järjestelmille on oltava selkeä ja yksiselitteinen vastuullisuus sekä kehityksen aikana että operatiivisessa käytössä. Tällä periaatteella on merkittäviä vaikutuksia AI-järjestelmäarkkitehtuurille — se vaatii selkeän jäljitettävyyden AI-järjestelmätuotoksista ihmispäätöksentekijöihin, jotka toimivat näiden tuotosten perusteella.
Selitettävyys ja jäljitettävyys: AI-sovellusten on oltava ymmärrettäviä ja jäljitettäviä tavalla, joka on asianmukainen niiden käyttökontekstin kannalta. Tämä on teknisesti vaativin periaate AI-toimittajille, koska monet suorituskykyiset AI-lähestymistavat ovat luonnostaan vaikeita selittää. NATO:n odotus ei ole, että kaikki AI-järjestelmät käyttäisivät luonnostaan tulkittavia lähestymistapoja, vaan että toimittajat pystyvät tarjoamaan kontekstuaalisesti asianmukaisia selityksiä järjestelmän käyttäytymisestä päätösvaltuustason mukaan.
Luotettavuus: AI-sovellusten on toimittava luotettavasti tarkoitetulla tavalla koko operatiivisten olosuhteiden kirjossa — ei vain testatuissa olosuhteissa. Tämä heijastaa suoraan taistelutestatun vs. laboratoriotesatun eroa: järjestelmä, joka toimii luotettavasti testiympäristössä, mutta heikkenee odottamattomasti operatiivisissa olosuhteissa, ei täytä luotettavuusperiaatetta.
Hallittavuus: AI-järjestelmät on suunniteltava mahdollistamaan asianmukainen ihmisen valvonta ja ohjaus, kyvyllä puuttua, säätää tai poistaa käytöstä AI-toimintoja tarvittaessa. Tämä periaate muuntuu konkreettisiksi arkkitehtuurivaatimuksiksi: AI-järjestelmien on paljastettava ihmisen ohitusrajapinnat, niiden on vastattava ohituskomentoihin ennustettavasti ja välittömästi, eikä niissä saa esiintyä emergenttiä käyttäytymistä, joka kiertää ihmisen valvontamekanismit.
Harhan vähentäminen: Toimenpiteitä on toteutettava AI-sovellusten tahattomien harhaisuuksien minimoimiseksi, jotka voivat vaikuttaa päätöksentekoon, erityisesti sovelluksissa, jotka vaikuttavat ihmisiin. Tiedustelu-, valvonta- ja tähtäyssovelluksille tämä vaatii dokumentoitua testausta suorituskykyeroista eri ympäristöolosuhteiden, kohteiden ja datanlähteissä.
AI-järjestelmien vaatimukset: Selitettävyys, tarkastettavuus, robustius
Kuusi periaatetta hankintavaatimuksiksi muuntaen, eniten mainitut tekniset vaatimukset NATO:n AI-järjestelmille ovat selitettävyys, tarkastettavuus ja robustius. Nämä kolme vaatimusta ovat keskenään kytköksissä ja yhdessä määrittelevät käytännön vaatimustenmukaisuusstandardin AI-puolustusohjelmistolle.
Selitettävyys NATO-kontekstissa ei tarkoita, että AI-järjestelmän on tarjottava täydellinen tekninen selitys mallinsa sisäisistä toiminnoista. Se tarkoittaa, että järjestelmän on pystyttävä tarjoamaan annetulle tuotokselle tai suositukselle kontekstuaalisesti asianmukainen selitys, joka mahdollistaa ihmisoperaattorin suosituksen arvioimisen ja sen hyväksymis- tai hylkäämispäätöksen tekemisen.
Tarkastettavuus vaatii, että AI-järjestelmän käyttäytyminen voidaan jälkikäteen rekonstruoida tarkastelua varten — operatiivista oppimista, virheiden tutkimista tai oikeudellista/politiikan vastuullisuutta varten. Tämä tarkoittaa, että AI-järjestelmien on kirjattava syötteensä, päättelyprosessinsa ja tuotoksensa riittävällä yksityiskohtaisuudella jälkikäteisanalyysia varten.
Robustius käsittelee järjestelmän suorituskykyä jakelun muuttuessa — kun operatiiviset syötteet eroavat koulutusaineiston jakelusta. Sotilasympäristöjä luonnehtii juuri tällainen jakelun muutos: anturit toimivat olosuhteissa, joita ei ole edustettu koulutusaineistossa, vastustajat yrittävät aktiivisesti luoda syötteitä, jotka hämäävät AI-järjestelmiä, ja operatiivinen tempo aiheuttaa datan laadun ongelmia.
Keskeinen havainto: NATO:n AI-vaatimukset eivät ensisijaisesti rajoita AI-kyvykkyyttä — ne luovat riittävää luottamusta AI-järjestelmiin niiden operatiivisen käyttöönoton mahdollistamiseksi. Toimittaja, joka pitää NATO:n AI-periaatteiden noudattamista rajoituksena, ei ymmärrä sen tarkoitusta. Periaatteet ovat olemassa, koska AI-järjestelmiä, joita ei voida selittää, tarkastaa tai ohittaa, ei oteta operatiiviseen käyttöön sotilaallisten käyttäjien toimesta teknisestä suorituskyvystä riippumatta.
Vaikutukset puolustusohjelmistotoimittajille
AI-pohjaisia puolustustuotteita kehittäville ohjelmistotoimittajille NATO:n AI-strategialla on konkreettisia vaikutuksia tuotekehitykseen, dokumentaatioon ja markkinaasemointiin:
Suunnittele selitettävyys alusta alkaen. Mallin arkkitehtuurien ja koulutustavan valitseminen, joka tukee selitettävyyttä, on huomattavasti halvempaa kuin selitysmekanismien lisääminen jälkikäteen. Tietokonenäön parissa työskenteleville toimittajille gradienttipainotteiset luokan aktivointikartastot (Grad-CAM) ja vastaavat attribuutiomenetelmät tulisi olla vakio-ominaisuuksia.
Dokumentoi koulutusaineistosi ja testausmenetelmäsi. NATO:n hankinta-arvioijat kysyvät koulutusaineiston alkuperästä, merkintämenetelmistä ja testikokoelman koostumuksesta. Toimittajat, jotka eivät pysty vastaamaan näihin kysymyksiin yksityiskohtaisesti, herättävät välittömästi huolia siitä, onko järjestelmän ilmoitettu suorituskyky luotettava operatiivisen suorituskyvyn indikaattori.
Rakenna ihmisen ohitus arkkitehtuuriin, ei jälkikäteen. Hallittavuusperiaate tarkoittaa, että ihmisen ohituksen on oltava arkkitehtuurinen ominaisuus pikemminkin kuin proseduraalinen kiertotie. Järjestelmät, jotka edellyttävät käyttäjää navigoimaan useiden näyttöjen läpi ohittaakseen AI-suosituksen, tai jotka eivät selkeästi erota AI-suosituksia vahvistetuista ihmispäätöksistä, eivät todennäköisesti läpäise NATO:n hankintaarviointia.
AI-hallinnan kehykset: ALTAI ja EU:n AI-laki
NATO-kohtaisten vaatimusten lisäksi Euroopassa toimivien puolustusalan AI-toimittajien on navigoitava myös EU:n AI-hallintakehyksessä. EU:n AI-laki, joka tuli voimaan vuonna 2024, sisältää erityisen poikkeuksen AI-järjestelmille, jotka on tarkoitettu yksinomaan sotilaallisiin ja kansallisen turvallisuuden tarkoituksiin. Kaksikäyttöiset AI-järjestelmät — ne, joilla on sekä siviili- että sotilaallisia sovelluksia — saattavat kuitenkin kuulua lain korkean riskin AI -kategoriaan, mikä käynnistää vaatimustenmukaisuusarviointivaatimukset.
Luotettavan AI:n arviointilista (ALTAI), jonka EU:n tekoälyn korkean tason asiantuntijaryhmä on kehittänyt, tarjoaa itsearviointivälineen, joka on tiiviisti linjassa sekä NATO:n kuuden periaatteen että EU:n AI-lain vaatimusten kanssa. ALTAI:n käyttäminen kehityksen tarkistuslistana luo dokumentoidun vastuullisen AI-kehityksen jäljen, josta on hyötyä sekä NATO:n että EU:n hankintakonteksteissa.