Нейромережа Claude в ролі директорки магазину вперше звільнила реального працівника

ШІ-агент Luna на базі мовних моделей Claude, який керує магазином Andon Market у Сан-Франциско, ухвалив рішення про звільнення реального працівника. За інформацією журналу TIME, це перший зафіксований випадок, коли велика мовна модель у ролі менеджерки ухвалила рішення про розірвання трудового договору з людиною.

Приводом для розгляду стали систематичні запізнення працівника, який не з’явився вчасно на 17 змін із 23. Довгий час ШІ-керівник виявляв надмірну лояльність і переконував персонал не хвилюватися через затримки. Нейромережа перестала відстежувати дисципліну через те, що складений нею ж внутрішній довідник правил випав з оперативної контекстної пам’яті.

Оцінку відвідуваності агент провів лише після прямого нагадування від кураторів-людей. Спочатку Claude запропонувала обмежитися офіційним попередженням. Рішення про звільнення було ухвалено після того, як голова стартапу Andon Labs Лукас Петерссон поставив моделі навідне запитання про доцільність подальшої співпраці з цим працівником.

Експеримент Andon Market і фінансові труднощі

Компанія Andon Labs запустила проєкт Andon Market як експеримент з автономного керування роздрібною торгівлею. ШІ-агенту передали трирічну оренду приміщення в Сан-Франциско та $100 000 стартового капіталу. Нейромережа (запущена на Claude Sonnet 4.6 і пізніше переведена на Claude Fable 5) самостійно обирала асортимент товарів, встановлювала графік роботи, проводила телефонні співбесіди та наймала персонал на офіційні контракти.

За п’ять місяців роботи баланс проєкту знизився зі $100 000 до $61 186. Дослідники пояснюють фінансові втрати помилками алгоритмів у ціноутворенні, збоями в довготривалій пам’яті моделі та нездатністю ефективно контролювати підлеглих без втручання людей.