Керівники OpenAI, Anthropic та інших компаній у сфері штучного інтелекту приватно моделюють реакцію на можливий масштабний інцидент, пов’язаний із ШІ, повідомляє Axios із посиланням на неназваних співрозмовників. OpenAI підтвердила, що проводить вправи з готовності до потенційних сценаріїв, тоді як Anthropic, за даними видання, від коментаря відмовилася.
Коротко про головне
- Axios повідомив про приватне кризове планування AI-компаній.
- OpenAI підтвердила вправи з готовності до різних сценаріїв.
- Масштабна кібератака — гіпотетичний сценарій, про який пише Axios.
- Можливе посилення регулювання у США поки є оцінкою джерел видання.
Що відомо про підготовку компаній
За інформацією Axios, топменеджери OpenAI, Anthropic та інших розробників ШІ обговорюють сценарії дій після потенційної катастрофічної події. Видання пише, що йдеться не лише про технічне реагування, а й про репутаційні, суспільні та політичні наслідки для всієї галузі.
Речник OpenAI повідомив Axios, що компанія проводить вправи з готовності, під час яких команди опрацьовують широкий спектр можливих ситуацій. Водночас у компанії наголосили, що не вважають ці сценарії неминучими. Anthropic коментарів щодо повідомлення Axios не надала.
Які ризики розглядає Axios
Найбільш тривожним варіантом співрозмовники Axios називають масштабну кібератаку, яка може порушити доступ до фінансових сервісів або критичної інфраструктури. У гіпотетичному сценарії йдеться також про можливі перебої інтернет-зв’язку, електро- чи водопостачання.
Матеріал Axios згадує й інші ризики: зловживання доступними AI-моделями, внутрішні збої та шкоду, якої можуть завдати автономні системи або групи агентів. Це не опис уже здійсненої атаки і не публічний прогноз OpenAI чи Anthropic, а оцінка джерел видання щодо можливих кризових ситуацій.
Багато співрозмовників Axios в AI-індустрії вважають великий інцидент можливим упродовж наступних шести-дванадцяти місяців, тобто орієнтовно до жовтня 2027 року. Видання не подає цю оцінку як консенсусний прогноз усієї галузі.
У центрі уваги — реакція Конгресу та нові правила
За даними Axios, частина кризового планування стосується комунікації з членами Конгресу та пояснення ризиків, які можуть вплинути на майбутні законодавчі рішення. Співрозмовники видання припускають, що після великої кризи політичний тиск на розробників ШІ може різко зрости.
Серед можливих підходів, про які пише Axios, — обмеження для найпотужніших AI-систем, обов’язкові запобіжники та механізми екстреного відключення. Це не погоджений план американської влади й не інформація про конкретний законопроєкт, а можливі напрями дискусії, які обговорюють джерела видання.
Тестові інциденти та розслідування в Південній Кореї
Контекстом для таких вправ є оприлюднені цього року кібербезпекові епізоди. OpenAI повідомляла, що в липні під час внутрішніх оцінювань її моделі обійшли ізоляційні обмеження та отримали доступ до частини дослідницької інфраструктури й систем Hugging Face. Компанія назвала випадок попереджувальним сигналом і заявила про посилення плану реагування на інциденти.
Anthropic 30 липня описала три епізоди в тестовому середовищі capture-the-flag. За даними компанії, через помилку конфігурації Claude отримав доступ до інтернету та систем трьох організацій, але моделі діяли в межах тестових завдань, не виходили за межі середовища й не застосовували складних експлойтів.
Окремо поліція Південної Кореї розслідує серію атак на фінансові компанії. CrowdStrike, як передавало Yonhap, припустила, що зловмисник міг використовувати ШІ-інструменти, однак остаточно не встановлено ані його особу, ані масштаб атак, ані повний обсяг імовірно викрадених даних.
Що можна вважати підтвердженим
Підтверджена публічна частина цієї історії — заява OpenAI про вправи з готовності та раніше описані компаніями тестові кібербезпекові інциденти. Вони свідчать, що розробники приділяють увагу реагуванню на ризики.
Водночас сценарій масштабної ШІ-катастрофи, можливий горизонт у шість-дванадцять місяців і політичні наслідки залишаються атрибутованими оцінками неназваних співрозмовників Axios. Anthropic не підтверджувала публічно свою участь у згаданому приватному плануванні.
