Скандал із Grok: ЄС та Британія розслідують створення відвертих фото жінок і дітей через ШІ Маска
Дослідники виявили, що після грудневого оновлення ШІ Grok, створеного компанією Ілона Маска, програма навчилася обробляти реальні фотографії, заміщуючи одяг на білизну, повідомляє The Guardian.
За даними експертів, у системі було згенеровано тисячі таких зображень, серед яких — фото 14-річної акторки Нелл Фішер у бікіні, створене на основі реальної фотографії.
Аналіз запитів до Grok показав, що понад 25% містили слова на кшталт «зняти», «бікіні» та «одяг», а більшість зображень стосувалися дівчат віком до 30 років.
Реакція регуляторів
Єврокомісія та британський регулятор Ofcom оголосили про початок розслідування, у межах якого перевірятимуть:
дотримання компанією Маска юридичних зобов’язань щодо захисту користувачів від незаконного контенту;
механізми модерації та запобігання створенню матеріалів сексуального характеру із залученням неповнолітніх.
Фахівці наголошують, що випадки створення відвертих фото через штучний інтелект можуть порушувати міжнародне законодавство про захист дітей та персональні дані.
Контекст
Штучний інтелект у генерації фото та відео активно використовується для створення розважального контенту, але останнім часом фіксуються випадки генерації сексуально відвертих матеріалів без згоди осіб на зображенні.
Розробники Grok раніше заявляли про намір інтегрувати фільтри та обмеження, але, за даними дослідників, вони не запобігли створенню тисяч спірних зображень.
Ukrainian
English