Стрімкий розвиток штучного інтелекту (ШІ) змінює галузі промисловості з безпрецедентною швидкістю. Сфера ведення бойових дій не є винятком. Держави вже змагаються за інтеграцію ШІ у військові операції, і Україна та Росія перебувають на передовій у розробці автономних систем, щоби здобути перевагу на полі бою. Але в міру того, як ці технології впроваджуються в бойові дії, залишається одне важливе питання: наскільки сильно нам слід покладатися на ШІ та які ризики це несе?
Як застеріг міністр закордонних справ Австрії Александер Шалленберг, «це момент Оппенгеймера нашого покоління». Подібно до того, як ядерна зброя змінила характер ведення війни у XX столітті, зброя зі штучним інтелектом тепер формує поля бою — найбільш помітно в Україні. Виступаючи на конференції у Відні, присвяченій автономній зброї, Шалленберг застеріг про зростаючу загрозу: ШІ-орієнтована війна може вийти з-під контролю та спричинити нову гонку озброєнь. Автономні дрони та алгоритмічні системи наведення можуть перетворити масові вбивства на механізований, майже беззусильний процес.
Зростаюча роль ШІ у сучасній війні
Пентагон вже активно випробовує інструменти з прийняття рішень на базі ШІ в реальних умовах. Наприклад, у січні, як повідомляється, Пентагон почав використовувати генеративні інструменти ШІ — подібні до ChatGPT — у регіоні Індо-Тихоокеанського командування, щоб покращити прийняття рішень на полі бою проти високотехнологічних супротивників на кшталт Китаю.
Цим проєктом керує Управління головного фахівця з цифрових і штучних інтелекту (CDAO) Міністерства оборони США, створене у 2022 році. Ініціатива з інтеграції ШІ у відомство передбачає співпрацю з такими компаніями, як Anduril та Palantir, щоб прискорити прийняття рішень командувачами безпосередньо на полі бою. Ця ініціатива знаменує собою важливий зсув у бік використання інновацій приватного сектора для посилення військового процесу ухвалення рішень.
Зокрема, програмне забезпечення Anduril Lattice AI об’єднує дані із сенсорів для ухвалення рішень у реальному часі, пропонуючи автономну обробку інформації для систем командування і контролю. Розробки Palantir у сфері злиття даних на базі ШІ забезпечують командирів даними, які можна одразу використовувати, — з різних середовищ. Завдяки інтеграції величезних обсягів інформації з наземних, повітряних, морських, кібер-, космічних та електронних операцій це забезпечує прийняття рішень у реальному часі, підвищує ситуаційну обізнаність і гарантує скоординовану реакцію навіть у складному операційному середовищі.
Програмне забезпечення Palantir на базі ШІ перетворило Україну на те, що журнал Time назвав «лабораторією ШІ-війни». Ця технологія відіграє ключову роль в аналізі супутникових знімків, обробці відео з дронів і злитті відкритих джерел розвідданих, щоб допомогти українським силам виявляти й атакувати російські позиції в режимі реального часу. Семюел Бендетт, старший науковий співробітник Центру нової американської безпеки, наголосив на безпрецедентному обсязі даних, які генерує війна в Україні, і які стимулюють військові інновації на базі ШІ. «За останні три роки було зібрано величезну кількість даних — еквівалент сотень років збору, — включно з даними з повітряного, космічного, наземного та кіберпросторів. Обидві сторони вже використовують ці дані, формуючи військове планування та моделювання бойових дій, особливо у сфері дронів і безпілотних систем», — пояснив Бендетт.
Гонка озброєнь на базі ШІ в Україні
Україна вже веде перегони дронів із ШІ проти Росії: обидві сторони використовують автономні технології, щоб отримати перевагу на полі бою. Зіткнувшись із чисельною перевагою Росії, Україна зробила ставку на дрони з самого початку війни, змусивши Москву відповісти тим самим. Коли Росія удосконалила свої можливості радіоелектронної боротьби та почала приглушувати українські дрони, обидві сторони були змушені пришвидшити інновації. У російсько-українській війні дрони нині відповідають за більшість жертв на полі бою, приблизно 70 відсотків загальної кількості вбитих та поранених.
Ця гра в «кішки-мишки» змусила обидві сторони використовувати оптоволоконні кабелі, щоб обходити радіоперешкоди. Не дивно, що вже розробляються контрзаходи, аби блокувати ці кабелі.
Зараз формується наступний етап дронової війни: системи прицілювання на базі ШІ, створені для роботи навіть за умов сильних завад, які дозволять дронам виявляти й знищувати цілі з мінімальним втручанням людини.
У листопаді 2023 року у інтерв’ю газеті The Economist колишній Головнокомандувач Збройних сил України Валерій Залужний порівняв ситуацію на полі бою з Першою світовою війною. «Точно як у Першій світовій, ми дійшли технологічного рівня, який загнав нас у глухий кут», — сказав він. Він наголосив, що для подолання цієї безвиході потрібен великий прорив у безпілотних та роботизованих системах, та визнав: «Найімовірніше, не буде глибокого й красивого прориву».
Безвихідь триває й досі. В результаті й Україна, і Росія шукають короткострокових технологічних проривів де тільки можливо. Технологічне протистояння у війні перетворюється на боротьбу за панування в царині дронів. У цій боротьбі за домінування дронів безпілотники з підтримкою ШІ будуть розвиватися, і, можливо, війна перетвориться на сутичку алгоритмів. Переможе той, хто матиме найшвидший і найздатніший до адаптації ШІ, прискорюючи процес ідентифікації цілі та її ураження у так званому «kill chain», де швидкість і точність стають найважливішими перевагами. Що більше даних і сенсорних показників буде підключено до цих алгоритмів, то точнішими й смертоноснішими будуть системи наведення на базі ШІ.
Наступна еволюція ШІ у бою
Один із російських військових блогерів, пишучи у Telegram, застеріг, що ШІ знищить традиційні форми війни, роблячи маскування, обман і радіоелектронні контрзаходи майже неможливими. «Маскування неможливе. Обчислювальні потужності дозволять алгоритмам ШІ постійно переглядати всі розвіддані та виявляти навіть найменші зміни», — зазначив він.
За словами цього російського блогера, ШІ може здійснити революцію в радіоелектронній боротьбі, зробивши радіорозвідку застарілою завдяки використанню систем машинного навчання, які імітують людські голоси, перехоплюють комунікації й маніпулюють рішеннями противника. «Радіорозвідка неможлива — GPT-чати забезпечуватимуть реальний радіообмін голосами реальних людей, зламування радіомереж і доступ до переговорів лише заплутає розвідку. Радіоелектронна боротьба втрачає сенс — кожна бойова одиниця стає автономною».
Російський блогер також звернув увагу на еволюцію зброї у вигляді роїв на базі ШІ, до якої належать дрони, модифіковані ракети й керовані боєприпаси, що здатні навчатися під час бою в реальному часі. Він стверджує, що системи наведення на базі ШІ створять постійно мінливе поле бою, де протидія швидко стане застарілою.
«Уся зброя навчається. Протитанкова ракета, від якої зумів ухилитися автомобіль чи танк, миттєво передає дані назад носію… подібно до вертольота “Apache”, який потім запустить нову ракету, уже “знаючи”, як здолати попередній маневр ухилення. Те саме стосується торпед, протикорабельних ракет, ракет “повітря-повітря” та будь-яких керованих боєприпасів», — додав він. «Це справді “нова атомна бомба”, якщо не гірше».
Попри такі побоювання, оборонний оглядач журналу The Economist, Шашанк Джоші, пояснив, що безпосередній ефект ШІ полягає не стільки в повній автономізації війни, скільки в посиленні військової стратегії та ухваленні рішень. Один із яскравих реальних прикладів застосування ШІ у війні відбувся під час військових операцій Ізраїлю в Секторі Газа, де системи наведення на базі ШІ відіграли ключову роль у бомбардуваннях.
Хоча російський блогер, можливо, перебільшує безпосередній вплив ШІ, його застереження відображають зростаюче занепокоєння щодо темпів, якими змінюються методи ведення війни. Важливим аспектом перегонів є не лише розгортання ШІ на полі бою, а й така ж швидка розробка засобів протидії.
Двосічний меч
ШІ може докорінно змінити ведення війни завдяки безпрецедентній точності та здатності до адаптації, проте його стрімка інтеграція супроводжується серйозними ризиками. Хоча ШІ може зменшити кількість непередбачених жертв і підвищити ефективність бою, та сама технологія може призвести до неконтрольованої ескалації та надмірного покладання на автоматизацію, наслідки чого можуть бути непередбачуваними для майбутніх війн.
Зрештою, дослідники все ще намагаються до кінця зрозуміти, як саме працює ШІ, зокрема під час навчання й ухвалення рішень. Непрозорість моделей ШІ, яку часто називають «проблемою чорної скриньки», означає, що навіть інженери, які розробляють ці системи, можуть не повністю усвідомлювати, як вони приходять до певних висновків. Така відсутність прозорості викликає значне занепокоєння у військовій сфері, де надійність, передбачуваність і підзвітність мають життєво важливе значення. Якщо військові занадто покладатимуться на ШІ, не маючи повного розуміння його обмежень, вони ризикують розгорнути системи, які можуть вийти з ладу непередбачуваним чином — через ворожі маніпуляції, приховані упередження чи збій у роботі в умовах протистояння.
Трестон Віт, головний офіцер із геополітики компанії Insight Forward і ад’юнкт-професор Джорджтаунського університету, під час інтерв’ю пояснив мені, що, на його думку, ШІ допоможе зменшити кількість непередбачених жертв. Наприклад, командир, який покладається на кілька джерел розвідки, може пропустити важливі деталі й віддати наказ про удар, що шкодитиме цивільним. Натомість системи на базі ШІ здатні обробляти величезні обсяги даних у реальному часі, виявляючи нюанси, які людина може не помітити, і таким чином запобігаючи помилкам.
«ШІ безперечно знизить кількість втрат серед цивільного населення, і це буде однією з найважливіших переваг цієї зброї», — пояснив Віт. «Хоча люди можуть бути креативними і вдумливими, ШІ обробляє інформацію значно швидше, включно з оцінкою можливих сценаріїв. Людський зір теж значно обмежений. Тож ШІ дозволить зброї розрізняти цілі значно ефективніше».
Однак попри те, що ШІ обіцяє вищу точність і зменшення числа випадкових жертв, його інтеграція у військові операції не позбавлена ризиків. Одна з проблем, що загостриться зі збільшенням масштабів застосування ШІ, — це потенційне надмірне покладання на технології, що може зробити армії вразливими, коли ці системи виходять з ладу або зазнають втручання.
Віт навів історичні приклади, коли військові робили надмірний акцент на технологічній перевазі, а противник перевершував їх, застосовуючи малотехнологічні методи. Така ситуація відображає ширшу проблему сучасних армій: надмірне покладання на технології може призвести до занепаду базових військових навичок. Що станеться на полі бою в момент, коли технологія просто перестане працювати? Заглушений сигнал, розряджена батарея чи ворожа кібер-атака можуть зробити високотехнологічні системи непрацездатними, залишивши військових неготовими до роботи без них. Як показали операції з протидії наркоторгівлі в Мексиці, покладання на технології залишає офіцерів беззахисними, коли пристрої виходять з ладу, що вказує на загрозу втрати необхідних навичок.
«Завжди виникають проблеми, коли військові надто концентруються на своїй технологічній перевазі», — попередив Віт. «І Ізраїль, і Сполучені Штати стикалися з цією проблемою, покладаючись на передові технології, в той час, як їхні противники використовували малотехнологічні підходи, щоб їх обійти».
Наприклад, за словами Віта, під час «війни з терором» США переважали у сфері радіоелектронної розвідки (SIGINT), тому «Аль-Каїда» пристосувалася, перейшовши на паперові повідомлення і кур’єрів, щоб уникнути відстеження. Аналогічно, у Другій ліванській війні «Хезболла» використовувала вогнестійкі покривала, щоб приховати місця запуску ракет, не даючи ізраїльській авіації ефективно їх обстрілювати.
Хоча ШІ та автономна зброя безсумнівно підвищать летальність на полі бою, Віт наголошує, що креативність та малотехнологічні контрзаходи й надалі можуть нівелювати технологічну перевагу.
«Передові технології та автономна зброя безумовно зроблять військо більш смертоносним, — підкреслив він, — але лідери ніколи не повинні забувати, що уява й прості рішення можуть звести цю перевагу нанівець».
Пол Лушенко, доцент і керівник напряму спеціальних операцій в Армійському військовому коледжі США, наводить приклад того, як ШІ вже впливає на ухвалення рішень у реальному часі на полі бою, посилаючись на інтенсивне використання Ізраїлем ШІ у прицілюванні в Секторі Газа. За його словами, алгоритми машинного навчання, натреновані на військових наборах даних, можуть передбачати розташування противника, аналізувати бойову доктрину та оптимізувати рішення про вибір цілей.
Однак він попереджає, що інтеграція ШІ в летальні операції викликає серйозні етичні питання, особливо щодо застосування автономної зброї та алгоритмічного наведення на ціль. Ізраїль активно використовував системи наведення на базі ШІ у війні проти ХАМАС, застосовуючи досі нерозголошувану систему «Lavender», яка ідентифікувала потенційних оперативників ХАМАС. Повідомлялося, що «Lavender» могла визначати до 37 000 можливих бойовиків, різко прискорюючи темп авіаударів, внаслідок чого постраждала велика кількість цивільного населення.
Лушенко також розглядає концепцію «Minotaur Warfare» («мінотаврової війни»), у якій ШІ може взяти на себе ширше керівництво бойовими діями — керувати наземними патрулями, повітряними боями й морськими операціями. На його думку, така зміна вимагатиме докорінної трансформації військових структур, включно з переглядом моделей командування, створенням нових військових спеціальностей і переосмисленням, який рівень управління слід централізувати або децентралізувати.
У цій концепції ШІ розглядається як «мозок» усіх військових операцій, що аналізує дані з поля бою в реальному часі та віддає накази як підрозділам із людським особовим складом, так і автономним системам — з більшою швидкістю й точністю, ніж традиційні методи. Термін «Minotaur Warfare» натякає на гібридну модель, у якій ШІ та люди співпрацюють, поєднуючи автоматизацію з людським контролем для підвищення ефективності збройних сил.
Оскільки інтеграція ШІ у військову сферу продовжує пришвидшуватися, головне питання залишається незмінним: скільки повноважень у прийнятті рішень слід віддавати машинам і якою буде ціна?
Не всі моделі ШІ будуть підготовлені для кожного сценарію на полі бою, і ШІ матиме свої обмеження. Парадоксально, сторона, яка надто сильно покладатиметься на автономну війну на базі ШІ, може водночас відкрити нові вразливі місця — і противник невдовзі навчиться їх використовувати.
«Завжди будуть вразливості в технологіях. Має значення, наскільки ефективно ми застосовуватимемо кіберзахист на базі ШІ, але повністю виключити успішну кібератаку неможливо», — каже Віт. «Особливо, якщо існує загроза випадкового витоку всередині системи чи надзвичайно спроможний супротивник».
Якщо системи наведення на базі ШІ покладаються на наперед визначені правила ведення бою, їм може бути складно адаптуватися до нетрадиційних методів війни. Якщо моделі ШІ навчалися переважно на зразках традиційних бойових дій, їм може бути важко розпізнавати та нейтралізувати швидко змінювані загрози. Що ще гірше, якщо системи ШІ віддають пріоритет ефективності над етичними обмеженнями, вони можуть помилково ідентифікувати нетрадиційних учасників бойових дій або цивільні об’єкти як законні цілі, що призведе до катастрофічних прорахунків на полі бою.
Адже Росія, зрештою, використовує цивільні автомобілі в бою проти України. Що відбувається, коли противник систематично ігнорує міжнародні закони й норми? Чи слід тоді навчати моделі ШІ західних армій атакувати цивільні автомобілі, якщо вони використовуються в бойових діях? Що робити, якщо російські сили — або будь-який інший супротивник — зовсім відмовляться від військової форми, маскуючись під цивільних, перш ніж нападати? Дехто з російських військових навіть намагався одягати українську форму, щоб просочитися в бойові порядки супротивника.
Ці тактики підкреслюють ключову проблему під час розробки ШІ для воєнних цілей: як такі системи можуть відрізнити законні військові цілі, коли правила ведення бойових дій навмисне розмиваються? Противники завжди намагатимуться використовувати прориви в технологіях, а надмірне покладання на ШІ ризикує створити вразливості, що можуть призвести до жахливих наслідків у майбутніх конфліктах.
Автор: Девід Кириченко