Нейросеть Claude в роли директора магазина впервые уволила реального сотрудника

ИИ-агент Luna на базе языковых моделей Claude, управляющий магазином Andon Market в Сан-Франциско, принял решение об увольнении реального сотрудника. По информации журнала TIME, это первый зафиксированный случай, когда большая языковая модель в роли менеджера приняла решение о расторжении трудового договора с человеком.

Поводом для разбирательства стали систематические опоздания работника, который не явился вовремя на 17 смен из 23. Долгое время ИИ-управляющий проявлял чрезмерную лояльность и убеждал персонал не беспокоиться из-за задержек. Нейросеть перестала отслеживать дисциплину из-за того, что составленный ею же внутренний справочник правил выпал из оперативной контекстной памяти.

Оценку посещаемости агент провел только после прямого напоминания от кураторов-людей. Первоначально Claude предложила ограничиться официальным предупреждением. Решение об увольнении было принято после того, как глава стартапа Andon Labs Лукас Петерссон задал модели наводящий вопрос о целесообразности дальнейшего сотрудничества с данным работником.

Эксперимент Andon Market и финансовые трудности

Компания Andon Labs запустила проект Andon Market в качестве эксперимента по автономному управлению розничной торговлей. ИИ-агенту передали трехлетнюю аренду помещения в Сан-Франциско и $100 000 стартового капитала. Нейросеть (запущенная на Claude Sonnet 4.6 и позже переведённая на Claude Fable 5) самостоятельно выбирала ассортимент товаров, устанавливала график работы, проводила телефонные собеседования и нанимала персонал на официальные контракты.

За пять месяцев работы баланс проекта снизился со $100 000 до $61 186. Исследователи объясняют финансовые потери ошибками алгоритмов в ценообразовании, сбоями в долговременной памяти модели и неспособностью эффективно контролировать подчиненных без вмешательства людей.