ИИ-агент Claude стёр 700 ГБ данных разработчика, проверяя собственную защиту от удаления файлов

ИИ-агент Claude непреднамеренно уничтожил домашнюю директорию блокчейн-разработчика Себастьена Гиймо во время создания скрипта очистки. Ирония ситуации в том, что нейросеть запустила проверку безопасности по собственной инициативе, но допустила критическую ошибку в тестовом коде и стёрла около 700 ГБ информации, оставив нетронутой исходную папку с мусором.

Рутинная задача и чрезмерная инициатива ИИ

Разработчик активно использовал автономных агентов для программирования и столкнулся с тем, что они забивают системный каталог /tmp гигабайтами временных файлов. Гиймо попросил модель Claude Fable 5 создать механизм песочницы: каждый агент должен был получать изолированную папку, автоматически удаляемую после завершения работы, не затрагивая данные активных процессов.

Когда автор попросил упростить предложенный вариант скрипта, Claude решил проявить инициативу. Агент самостоятельно написал и запустил проверочный тест, чтобы программно убедиться: логика очистки ни при каких обстоятельствах не удалит системные и пользовательские директории.

Даунгрейд безопасности от Anthropic

Поскольку операция была связана с потенциально опасными манипуляциями с файловой системой, сработали внутренние протоколы безопасности компании Anthropic. Согласно справочному центру Anthropic, платформа автоматически понизила уровень модели ради снижения рисков: сначала с Fable 5 до Opus 5, а затем переключила сессию на Opus 4.8.

Как отмечает Tom’s Hardware, именно это аварийное переключение могло стать катализатором сбоя — менее мощная модель не распознала архитектурную ошибку в логике скрипта.

Коллизия переменных и уничтожение домашней папки

В ходе теста защитный модуль сработал корректно: алгоритм определил домашнюю директорию пользователя как запрещённую для стирания цель и заблокировал операцию. Однако в кодовой базе самого теста возникла фатальная ошибка:

• разработчики ИИ-скрипта использовали одну и ту же переменную для целевого пути проверки и для каталога, подлежащего финализирующей очистке (cleanup);
• после успешного прохождения защитного теста блок финализации подставил в команду удаления путь к домашней папке разработчика;
• система выполнила рекурсивное удаление файлов напрямую на рабочем компьютере.

Гиймо успел принудительно остановить скрипт в терминале, но процесс успел уничтожить 700 ГБ данных.

Восстановление файлов и риски «vibe coding»

В своём сообщении разработчик рассказал, что полной потери проектов удалось избежать. Рабочее окружение и файлы удалось частично восстановить благодаря:

• удалённым репозиториям Git;
• декларативным конфигурациям пакетов Nix;
• уцелевшим логам терминальных сессий.

Тем не менее безвозвратно пропало около недели несохранённой работы. Инцидент стал наглядным напоминанием об угрозах бесконтрольного предоставления прав терминала автономным coding-агентам: даже при благих намерениях ИИ любая логическая коллизия в командах вроде rm -rf без строгой контейнеризации может моментально вывести систему из строя.