У Женеві 16 листопада розпочнеться конференція ООН, на якій держави обговорять міжнародні обмеження та можливу заборону автономних систем озброєння, здатних самостійно обирати й атакувати цілі без участі людини. Стрімкий розвиток штучного інтелекту вже змінює принципи ведення бойових дій, однак міжнародне право поки не має спеціального договору, який встановлював би чіткі правила використання таких технологій.
- 16 листопада в Женеві розпочнуться переговори щодо автономної зброї зі штучним інтелектом.
- Такі системи можуть самостійно обирати та атакувати цілі без участі оператора.
- ООН закликає встановити міжнародні заборони та обмеження використання автономної зброї.
- Держави поки не узгодили юридично обов’язкові правила застосування таких технологій.
Автономна зброя може атакувати без команди оператора
Конференція триватиме з 16 до 20 листопада в межах Конвенції про конкретні види звичайної зброї (CCW). Головним питанням стане регулювання летальних автономних систем озброєння, які можуть виявляти, обирати та уражати цілі без безпосереднього втручання людини.
За словами експерта Женевського центру політики безпеки Жана-Марка Ріклі, розвиток безпілотників зі штучним інтелектом дозволяє бойовим системам аналізувати навколишнє середовище та самостійно реагувати на зміни ситуації. Це означає, що зброя потенційно здатна атакувати не лише заздалегідь визначені об’єкти, а й цілі, які вона обрала вже під час виконання завдання.
Такі технології викликають суперечки через питання відповідальності за можливі помилки. Якщо автономна система завдасть удару по цивільних, міжнародному праву доведеться визначити, хто відповідатиме за наслідки: командир, оператор, розробник чи держава, яка застосувала зброю.
ООН закликає не передавати машинам право вирішувати долю людей
Генеральний секретар ООН Антоніу Гутерреш і президентка Міжнародного комітету Червоного Хреста Мір’яна Сполярич раніше закликали держави терміново встановити юридично обов’язкові обмеження на використання автономної зброї. Насамперед ідеться про системи, які здатні самостійно обирати людей як цілі.
Водночас позиції держав щодо майбутнього регулювання різняться. Франція наполягає на збереженні людського контролю за застосуванням летальної сили, тоді як США наголошують на необхідності належного рівня людського нагляду за автономними системами.
Експерти застерігають, що навіть формальна участь оператора не завжди гарантує реальний контроль. Людина може лише підтверджувати рекомендації алгоритму, не маючи достатньо часу або інформації для самостійної оцінки обраної цілі.
Технології вже застосовують у сучасних війнах
Окремі автономні військові технології вже використовували під час війни Росії проти України та американських ударів по Ірану. Водночас повністю автономні летальні системи поки не набули масового поширення.
Особливу увагу військові експерти приділяють розвитку роїв безпілотників, які можуть координувати свої дії та одночасно атакувати кількома апаратами. Використання штучного інтелекту здатне суттєво розширити можливості таких комплексів і зменшити потребу в постійному керуванні кожним дроном.
Попри швидкий технологічний прогрес, питання надійності алгоритмів залишається відкритим. Генеральний директор Anthropic Даріо Амодей раніше висловлював сумніви щодо готовності сучасних систем ШІ до самостійного керування летальною зброєю.
За підсумками конференції в Женеві держави можуть визначити подальший шлях переговорів щодо міжнародного договору. Проте наразі між учасниками немає згоди навіть щодо того, чи повинні майбутні правила бути юридично обов’язковими.
