Meta тимчасово відкликала функцію «human concierge» у новому персональному AI-агенті Muse, за якої підрядники могли виконувати частину телефонних дзвінків від імені користувачів. Рішення ухвалили після внутрішніх застережень, що чутлива інформація може ненавмисно потрапити до операторів кол-центрів, повідомляє Reuters із посиланням на внутрішні пости компанії.
Коротко про головне
- Meta зупинила тест дзвінків Muse, які могли здійснювати підрядники.
- Працівники попереджали про ризик передачі чутливих даних операторам.
- Компанія визнала помилкою запуск без належного розкриття інформації.
- Людські оператори підвищували успішність викликів у внутрішніх тестах.
- Muse завантажили понад 2,5 мільйона разів після запуску.
Телефонна функція поступово виходила за межі внутрішнього тесту
Muse може телефонувати американським компаніям та вести розмову для виконання доручень користувача. Серед таких завдань — запис до перукаря, перевірка наявності товару в магазині або отримання цінових пропозицій від різних виконавців.
Працівники Meta почали тестувати можливість у серпні. Після дебюту застосунку компанія поступово вмикала її частині користувачів, а минулого тижня режим human concierge став доступним половині співробітників Meta. Ті, хто не хотів брати участі, могли приєднатися до групи відмови.
Внутрішня скарга зафіксувала расистську згадку під час розмови
Окрім зауважень щодо конфіденційності, один зі співробітників повідомив про інцидент під час звернення до інтернет- та кабельного провайдера з проханням домовитися щодо рахунку. За його словами, стенограма розмови містила расистську згадку, зроблену людським підрядником.
Віцепрезидентка підрозділу Meta Superintelligence Labs перепросила працівника та заявила, що цей агент більше не працюватиме над жодними проєктами Meta. Вона також назвала помилкою початок тестування дзвінків через підрядників без належного розкриття інформації.
Люди мали підвищити результативність там, де AI відхиляли
За словами віцепрезидентки, внутрішні перевірки показували, що залучення людей могло підвищити успішність дзвінків до 95–98%, тоді як у самостійних AI-дзвінків показник був нижчим. Деякі користувачі стикалися з тим, що співрозмовники завершували виклик, щойно чули, що телефонує штучний інтелект.
Речник Meta Деніел Робертс заявив, що тест мав зібрати відгуки для посилення захисту й приватності перед публічним випуском. За його словами, компанія працює з продавцями над поліпшенням потенційної функції дзвінків.
План операторів суперечив заявленій моделі захисту даних Muse
Під час запуску Meta наголошувала, що кожен агент Muse працюватиме у власній ізольованій віртуальній машині — окремому хмарному комп’ютері для ізоляції сесій. Чутливі дані, зокрема паролі, компанія обіцяла зберігати в окремому захищеному сховищі.
Працівники, які критикували human concierge, посилалися саме на ці заяви. На їхню думку, передавання частини дзвінків людям могло послабити одну з ключових обіцянок продукту щодо безпеки.
Muse швидко набрав аудиторію, а Meta вже мала схожий досвід
За даними аналітичної компанії Sensor Tower, після релізу Muse отримав понад 2,5 мільйона завантажень і впродовж двох тижнів очолював американські чарти завантажень застосунків. Від запуску агента акції Meta зросли більш ніж на 20%, додавши компанії понад 200 мільярдів доларів ринкової капіталізації, хоча у вівторок знизилися на 0,6%.
Це не перший випадок, коли Meta покладається на людську працю для AI-сервісу. Близько десяти років тому Facebook тестував у Messenger помічника M; медіа тоді оцінювали, що люди виконували приблизно 70% його завдань. Meta заявила, що потенційно повернеться до запуску телефонної функції Muse лише після доопрацювання та належних повідомлень користувачам.
