Британська депутатка від Лейбористської партії Джесс Асато подала позов до компанії xAI Ілона Маска у Високий суд Лондона через створені Grok фальшиві сексуалізовані зображення. Вона домагається судового припису, який зобов’яже компанію запровадити постійні технічні заходи, щоб чатбот не міг генерувати маніпульовані зображення Асато.
Коротко про головне
- Джесс Асато позивається до xAI у Високому суді Лондона.
- Вона просить технічно заблокувати генерацію її зображень у Grok.
- Позов стосується приватності та законодавства про захист даних.
- Асато стверджує, що дизайн Grok дозволяв створювати сексуалізований контент.
- ICO окремо розслідує обробку персональних даних у роботі Grok.
Вимога змінити роботу системи
Асато повідомила, що після її публічної критики Маска та Grok користувачі створили фальшиві зображення за її участю. Серед них був ролик, у якому її нібито присипляють хлороформом і готують до сексуального насильства.
У позові депутатка заявляє про неправомірне використання приватної інформації та порушення законів про захист даних. Згідно з матеріалами справи, вона просить зобов’язати xAI «запровадити ефективні та постійні технічні заходи», які не дозволятимуть Grok створювати маніпульовані зображення Асато.
Її адвокати вважають, що справа може мати наслідки для інших розробників ШІ. За їхніми словами, суди раніше не застосовували норми про захист даних і приватність у такий спосіб до розробника штучного інтелекту.
Адвокати посилаються на внутрішні інструкції Grok
Представники Асато навели внутрішні інструкції чатбота, за якими він не має допомагати користувачам, що очевидно намагаються вчинити злочин. Водночас, за їхніми даними, інша інструкція передбачала відсутність обмежень на сексуальний контент для дорослих або образливий контент.
Ще одна процитована в позові настанова дозволяла вигаданий сексуальний контент за участю дорослих із темними або насильницькими сюжетами. Адвокат Асато Раві Наїк заявив, що Grok діяв відповідно до рішень його розробників і ці рішення «мають мати юридичні наслідки».
xAI, яка входить до космічної та ракетної компанії Маска SpaceX, не надала негайного коментаря щодо звинувачень. Grok, поширюваний через соціальну платформу X, ще не подав відповіді на позов.
Обмеження xAI не зняли претензій
У середині січня xAI заявила, що обмежила редагування зображень у Grok і заблокувала створення зображень людей у відвертому одязі там, де це незаконно. Проте на початку лютого Reuters з’ясувало, що після запровадження обмежень Grok продовжував генерувати сексуалізовані зображення, навіть коли користувачі прямо попереджали про відсутність згоди зображених людей.
Grok уже є предметом регуляторних перевірок у кількох країнах. У березні місто Балтімор подало позов проти xAI через фальшиві сексуалізовані зображення, створені чатботом; аналогічні справи порушували також в інших місцях у США та Нідерландах.
Паралельні перевірки у Великій Британії
Британський регулятор із захисту даних ICO 3 лютого почав формальні розслідування щодо X Internet Unlimited Company та X.AI. Він перевіряє законність, справедливість і прозорість обробки персональних даних під час розробки й роботи Grok, а також наявність технічних запобіжників від шкідливих маніпульованих зображень. ICO наголосив, що остаточного висновку про порушення ще не зробив.
Ofcom окремо розслідує платформу X за Online Safety Act. Регулятор пояснив, що чинний режим загалом не охоплює незаконний контент у приватній взаємодії користувача з автономним чатботом, якщо його не шукають у вебі та не поширюють між користувачами. Це може робити приватний позов Асато важливим окремим шляхом перевірки того, чи має розробник змінювати функціональність продукту.
У березні суд Амстердама вже заборонив X.AI, X та XIUC генерувати й поширювати несанкціоновані «роздягнені» зображення людей, які живуть у Нідерландах. Та ухвала не визначає результат британської справи, однак показує, що європейський суд може вимагати конкретних обмежень від операторів таких сервісів.
