Стратегія НАТО з штучного інтелекту, прийнята міністрами оборони союзників у жовтні 2021 року, визначила рамки Альянсу для відповідального впровадження ШІ в повному спектрі військових і цивільних операцій. Хоча сама стратегія є документом рівня висококонцептуальної політики, вона сформувала конкретний набір вимог і очікувань, які безпосередньо перетворюються на критерії закупівель для програмного забезпечення з підтримкою ШІ. Розуміння цих вимог — не опція для постачальників ПЗ, які прагнуть продавати можливості ШІ на ринку НАТО. Це базова кваліфікаційна вимога.
Стратегія продовжувала розвиватися після 2021 року. Стратегічна концепція 2022 року підтвердила ШІ як пріоритетну технологічну галузь. Програма DIANA інтегрувала принципи стратегії у свої критерії оцінки. А окремі держави-члени НАТО переводять принципи рівня Альянсу в національні вимоги до закупівель.
Стратегія НАТО з ШІ: шість принципів відповідального ШІ
Основу стратегії НАТО з ШІ становить набір з шести принципів відповідального використання ШІ у сфері оборони. Ці принципи були розроблені відповідно до Принципів ШІ ОЕСР і відображають зобов'язання Альянсу підтримувати нагляд людини й етичні обмеження систем ШІ навіть під операційним тиском.
Законність: застосування ШІ має розроблятися та використовуватися відповідно до національного і міжнародного права. Для постачальників ПЗ це означає, що системи ШІ, призначені для оперативного військового використання, мають мати вбудовані обмеження, які запобігають незаконному застосуванню.
Відповідальність і підзвітність: має існувати чітка підзвітність за системи ШІ — як під час розробки, так і в оперативному використанні. Цей принцип означає чітку простежуваність від виходів системи ШІ до людей-осіб, що приймають рішення.
Пояснюваність і простежуваність: застосування ШІ має бути зрозумілим і простежуваним у спосіб, відповідний контексту використання. Це одна з найбільш технічно вимогливих вимог для постачальників ШІ, оскільки багато підходів з високою продуктивністю є за своєю природою важко пояснюваними.
Надійність: застосування ШІ має функціонувати надійно відповідно до свого призначення в усьому діапазоні оперативних умов — не лише в тестових умовах. Це безпосередньо перегукується з відмінністю між бойово-перевіреними та лабораторно-перевіреними системами.
Керованість: системи ШІ мають бути розроблені для забезпечення відповідного нагляду і контролю людини, з можливістю втручання, коригування або вимкнення функцій ШІ за необхідності. Це вимагає, щоб системи ШІ надавали інтерфейси перевизначення людиною і відповідали передбачувано й негайно на команди перевизначення.
Мінімізація упередженості: необхідно докладати зусиль для мінімізації ненавмисної упередженості в застосуваннях ШІ, що може впливати на прийняття рішень. Це вимагає задокументованого тестування на відмінності в продуктивності за різних умов.
Вимоги до систем ШІ: пояснюваність, можливість аудиту, стійкість
Пояснюваність у контексті НАТО не означає, що система ШІ повинна надавати повне технічне пояснення своїх внутрішніх механізмів моделі. Для системи класифікації зображень це може означати виділення ознак, які найбільше вплинули на класифікацію. Для системи оптимізації логістики — показ обмежень, що визначили рекомендоване рішення.
Можливість аудиту вимагає, щоб поведінку системи ШІ можна було відновити після факту для перегляду — для оперативного навчання, розслідування помилок або юридичної відповідальності. Системи ШІ повинні реєструвати свої вхідні дані, процеси міркувань і результати з достатньою деталізацією для постфактичного аналізу.
Стійкість стосується продуктивності системи при зміщенні розподілу — коли оперативні вхідні дані відрізняються від розподілу навчальних даних. Військові середовища характеризуються саме таким зміщенням розподілу: сенсори працюють в умовах, не представлених у навчальних даних, а противники активно намагаються створити вхідні дані, що обманюють системи ШІ.
Ключовий висновок: Вимоги НАТО до ШІ спрямовані не на обмеження можливостей ШІ — вони спрямовані на створення достатньої довіри до систем ШІ для їх оперативного застосування. Постачальник, який розглядає відповідність принципам НАТО щодо ШІ як обмеження, не розуміє суті. Принципи існують тому, що системи ШІ, які не можна пояснити, перевірити або перевизначити, не будуть прийняті оперативними військовими користувачами незалежно від їх технічної продуктивності.
Наслідки для постачальників оборонного ПЗ
Для постачальників ПЗ, що розробляють продукти з підтримкою ШІ, стратегія НАТО з ШІ має конкретні наслідки. Найважливіші: проектуйте пояснюваність від початку; документуйте ваші навчальні дані і методологію тестування; вбудовуйте перевизначення людиною в архітектуру, а не як доповнення.
Рамки управління ШІ: ALTAI та Закон ЄС про ШІ
Поза специфічними вимогами НАТО, постачальники оборонного ШІ, що працюють у Європі, також мають орієнтуватися в рамках управління ШІ ЄС. Закон ЄС про ШІ, що набрав чинності у 2024 році, включає конкретне виключення для систем ШІ, що використовуються виключно у військових і національно-безпекових цілях. Список оцінювання для надійного ШІ (ALTAI) забезпечує інструмент самооцінки, що тісно узгоджується з шістьма принципами НАТО та вимогами Закону ЄС про ШІ.