Один із провідних дослідників штучного інтелекту, лауреат Нобелівської премії з фізики Джеффрі Хінтон попередив про ризик масштабної технологічної кризи вже наприкінці 2026-го або протягом 2027 року. Науковець порівняв можливі наслідки неконтрольованого розвитку ШІ з Чорнобильською катастрофою. Про це він заявив в інтерв’ю The Guardian, опублікованому 3 листопада. Свої побоювання Хінтон також висловив австрійському виданню Die Presse 7 листопада.
- Джеффрі Хінтон попередив про ризик масштабної кризи через штучний інтелект у 2026–2027 роках.
- Можливі сценарії — тривалі перебої з електропостачанням та зупинка фінансових систем.
- Науковець порівняв потенційний інцидент із Чорнобильською катастрофою, але не прогнозував ядерної аварії.
- Хінтон розкритикував керівників великих технологічних компаній за недостатню увагу до безпеки.
- Дослідник закликав запровадити незалежне тестування потужних моделей ШІ до їх випуску.
Яку катастрофу може спричинити штучний інтелект
За словами Хінтона, людство поступово наближається до моменту, коли системи штучного інтелекту зможуть створювати загрози, наслідки яких буде важко передбачити.
Науковець припускає, що серйозний інцидент може статися вже протягом найближчого року. Він навів приклад кібератаки із застосуванням ШІ, яка здатна порушити роботу електромереж або тимчасово паралізувати міжнародну фінансову систему.
Йдеться не про повторення ядерної аварії 1986 року. Порівняння з Чорнобилем Хінтон використовує як метафору масштабної події, після якої уряди та суспільство можуть переглянути своє ставлення до технологічних ризиків.
В інтерв’ю The Guardian він припустив, що така криза може змусити світових лідерів серйозніше поставитися до безпеки ШІ. Водночас конкретних доказів неминучості катастрофи у 2026–2027 роках дослідник не навів.
Окреме занепокоєння викликає розвиток автономних ШІ-агентів, які можуть виконувати багатоступеневі завдання та взаємодіяти з цифровими системами без постійного контролю людини.
Хінтон розкритикував керівників технологічних компаній
Дослідник висловив сумніви щодо підходу найбільших технологічних компаній до безпеки штучного інтелекту.
Зокрема, він розкритикував очільника OpenAI Сема Альтмана, засновника Meta Марка Цукерберга та підприємця Ілона Маска. На думку Хінтона, конкуренція за ринок і фінансові інтереси можуть спонукати компанії впроваджувати дедалі потужніші системи без достатньої перевірки їхньої безпечності.
Це особиста оцінка науковця, а не доведений факт щодо мотивів керівників компаній.
Хінтон, який залишив Google у 2023 році, неодноразово застерігав, що розвиток штучного інтелекту може призвести до масового скорочення робочих місць, поглиблення нерівності та появи нових загроз кібербезпеці.
Науковець визнає, що технологія здатна принести суспільству значну користь, однак вважає недостатнім нинішній рівень контролю за її розвитком.
Що пропонує «хрещений батько» штучного інтелекту
Хінтон закликає створити міжнародну систему перевірки передових моделей ШІ, яка передбачатиме незалежне оцінювання ризиків до виходу нових продуктів на ринок.
Він порівняв такий підхід із перевіркою лікарських препаратів, коли виробники повинні довести їхню безпечність і ефективність до масового застосування.
На думку дослідника, добровільних обіцянок технологічних компаній недостатньо. Потрібні спільні стандарти, міжнародна співпраця та контроль незалежних органів.
Попри песимістичні сценарії, Хінтон не вважає втрату контролю над штучним інтелектом неминучою. Він переконаний, що людство ще здатне запобігти небезпечним наслідкам, якщо приділить більше ресурсів дослідженню безпеки нових систем.
Наразі масштабної катастрофи, яку прогнозує науковець, не сталося. Його попередження залишається оцінкою можливих ризиків, а не підтвердженим прогнозом майбутніх подій.
