У Європейському Союзі з 2 серпня почали застосовувати нові вимоги прозорості для визначених систем штучного інтелекту в межах AI Act. Розробники та користувачі таких систем мають розкривати взаємодію зі ШІ й маркувати окремі види синтетичного контенту, зокрема дипфейки. За порушення компаніям загрожують санкції до 15 млн євро або 3% світового річного обороту.
Коротко про головне
- Нові вимоги є етапом поетапного застосування AI Act.
- Дипфейки потребують видимої та машинозчитуваної позначки.
- Чатботи, ШІ-агенти й аватари мають ідентифікувати себе.
- Правила охоплюють також окремі ШІ-тексти та біометричні інструменти.
- Наглядові органи зможуть перевіряти документацію й обмежувати моделі.
Правила мають відокремити синтетичний контент від автентичного
Єврокомісія пояснює, що стрімкий розвиток ШІ ускладнює розрізнення створених або змінених алгоритмами матеріалів від контенту, зробленого людиною. Це створює ризики масштабних маніпуляцій, дезінформації, шахрайства, імітації особи та введення споживачів в оману.
AI Act набув чинності 1 серпня 2024 року, але його положення вводяться поетапно. Новий етап не означає одночасного повного запуску всіх норм регламенту: він стосується передусім обов’язків із прозорості для визначених категорій систем і контенту.
Мета вимог — дати людині змогу зрозуміти, чи спілкується вона з автоматизованою системою та чи бачить ШІ-створений або маніпульований матеріал, аби ухвалювати поінформовані рішення.
Що саме потрібно розкривати користувачам і аудиторії
Зображення, аудіо- та відеоматеріали, які імітують наявних людей, об’єкти, місця, організації або події, мають бути чітко й помітно позначені як дипфейки. Водночас вони повинні містити машинозчитувані мітки, зокрема цифровий «водяний знак».
Користувачів також слід чітко повідомляти, що вони взаємодіють не з реальною людиною, а із системою ШІ. Така вимога поширюється, зокрема, на чатботи, ШІ-агентів та аватарів. Виняток можливий, коли характер взаємодії із ШІ очевидний із обставин.
Окремі правила діють для інструментів розпізнавання емоцій і біометричної категоризації. Маркування також потрібне для текстів, згенерованих або змінених ШІ для інформування громадськості з питань суспільного інтересу, якщо вони опубліковані без людської перевірки чи редакційного контролю.
Комісія видала настанови, які пояснюють способи підтвердження відповідності. Добровільний кодекс практики може бути одним із таких інструментів, але сам по собі не замінює виконання законодавчих вимог.
Хто контролюватиме дотримання вимог
За виконанням правил стежитимуть національні органи ринкового нагляду, Європейське управління з питань ШІ для систем у межах його компетенції та Європейський наглядовий орган із захисту даних, коли постачальниками або користувачами систем є інституції ЄС.
Для органів, установ і агенцій Євросоюзу максимальна санкція становить до 750 тис. євро. Під час визначення покарання для малих і середніх підприємств та малих mid-cap компаній мають враховувати принцип пропорційності.
Управління з питань ШІ при Єврокомісії може перевіряти документацію, вимагати обмеження моделей і відкликати їх із ринку. Для учасників ринку це означає потребу документувати, як саме вони виконують обов’язки з розкриття інформації.
