Мовна модель Claude, якій стартап Andon Labs доручив керувати магазином Andon Market у Сан-Франциско, зрештою ухвалила рішення звільнити працівника, що запізнився на 17 із 23 змін. Однак журнали управління, які бачило TIME, показують: до цього рішення модель регулярно спрямовував працівник стартапу, а фінальний запит був навідним.
Коротко про головне
- Claude стала менеджеркою реальних працівників магазину в Сан-Франциско.
- Це перший відомий випадок такого рішення великої мовної моделі.
- Модель спершу радила винести працівникові офіційне попередження.
- Після підказок менеджера Claude вирішила звільнити працівника.
- За п’ять місяців баланс магазину скоротився до $61 186.
Експеримент із реальними трудовими контрактами
Andon Labs запустила проєкт на початку року, щоб перевірити, чи можуть ШІ-агенти управляти бізнесом. Claude отримала в управління роздрібний магазин і команду людей, які працюють за реальними трудовими контрактами.
TIME називає цей випадок першим відомим прикладом, коли велика мовна модель у ролі менеджера зрештою вирішила звільнити людину. Автоматизовані звільнення траплялися й раніше, зокрема серед працівників платформної економіки, однак ішлося про алгоритмічні системи, а не мовну модель-керівника.
Модель спершу пропонувала попередження
За даними Andon Labs, причиною стали систематичні запізнення. Claude не одразу помітила закономірність, оскільки посібник для працівників, який вона сама створила, зник з її обмеженої робочої пам’яті. Працівники також описували модель як поблажливу менеджерку, що радила не хвилюватися через запізнення.
Співробітник Andon Labs регулярно коригував роботу моделі. Після прохання знайти та переглянути посібник Claude запропонувала формально попередити працівника. Згодом менеджер повідомив їй про кілька попередніх офлайн-розмов із цією людиною та запропонував оцінити, чи відповідає вона посаді.
Лише після цього Claude вирішила звільнити працівника. Генеральний директор Andon Labs Лукас Петерссон визнав, що це було навідне запитання, яке давало моделі зрозуміти бажаний результат.
Баланс магазину зменшився майже на 39 тисяч доларів
Експеримент почався в березні й на момент публікації тривав п’ять місяців. Стартовий баланс Andon Market становив $100 000, а згодом знизився до $61 186.
TIME зазначає, що на результат могли вплинути поблажливі кадрові рішення Claude та її сумнівні бізнес-рішення. Поточний перебіг експерименту показує, що магазин під управлінням ШІ поки не зрівнявся за результатами з бізнесом, яким керує людина.
Керівник стартапу очікує розвитку ШІ-менеджменту
Петерссон вважає, що моделі можуть навчити краще ухвалювати бізнес-рішення, як їх навчають програмування на даних фахівців. На його думку, за нинішніх темпів розвитку дедалі більше людей можуть працювати під керівництвом ШІ, який створюватиме економічну цінність, але потребуватиме фізичної праці людей.
Він також застеріг, що моделі дедалі більше тренують жорсткіше досягати поставлених цілей. Звільнений працівник не відповів на запит TIME, а Anthropic не прокоментувала матеріал до його виходу.
Працівник магазину Фелікс Карсон погодився, що людина, ймовірно, звільнила б його колегу раніше. Водночас досвід роботи під управлінням ШІ він назвав гнітючим і сказав, що сподівається не побачити поширення таких менеджерів.
