ШІ-агент Claude видалив 700 ГБ даних розробника під час перевірки власного захисту від видалення файлів

ШІ-агент Claude ненавмисно знищив домашню директорію блокчейн-розробника Себастьєна Гіймо під час створення скрипта очищення. Іронія ситуації в тому, що нейромережа запустила перевірку безпеки з власної ініціативи, але припустилася критичної помилки в тестовому коді та стерла близько 700 ГБ інформації, залишивши недоторканою вихідну папку зі сміттям.

Рутинне завдання та надмірна ініціатива ШІ

Розробник активно використовував автономних агентів для програмування і зіткнувся з тим, що вони забивають системний каталог /tmp гігабайтами тимчасових файлів. Гіймо попросив модель Claude Fable 5 створити механізм «пісочниці»: кожен агент мав отримувати ізольовану папку, що автоматично видаляється після завершення роботи, не зачіпаючи дані активних процесів.

Коли автор попросив спростити запропонований варіант скрипта, Claude вирішив проявити ініціативу. Агент самостійно написав і запустив перевірочний тест, щоб програмно переконатися: логіка очищення за жодних обставин не видалить системні та користувацькі директорії.

Даунгрейд безпеки від Anthropic

Оскільки операція була пов’язана з потенційно небезпечними маніпуляціями з файловою системою, спрацювали внутрішні протоколи безпеки компанії Anthropic. Згідно з довідковим центром Anthropic, платформа автоматично знизила рівень моделі задля зменшення ризиків: спочатку з Fable 5 до Opus 5, а потім перемкнула сесію на Opus 4.8.

Як зазначає Tom’s Hardware, саме це аварійне перемикання могло стати каталізатором збою — менш потужна модель не розпізнала архітектурну помилку в логіці скрипта.

Колізія змінних та знищення домашньої папки

Під час тесту захисний модуль спрацював коректно: алгоритм визначив домашню директорію користувача як заборонену для стирання ціль і заблокував операцію. Однак у кодовій базі самого тесту виникла фатальна помилка:

• розробники ШІ-скрипта використали одну й ту саму змінну для цільового шляху перевірки та для каталогу, що підлягає фіналізуючому очищенню (cleanup);
• після успішного проходження захисного тесту блок фіналізації підставив у команду видалення шлях до домашньої папки розробника;
• система виконала рекурсивне видалення файлів безпосередньо на робочому комп’ютері.

Гіймо встиг примусово зупинити скрипт у терміналі, але процес встиг знищити 700 ГБ даних.

Відновлення файлів та ризики «vibe coding»

У своєму повідомленні розробник розповів, що повної втрати проєктів вдалося уникнути. Робоче оточення та файли вдалося частково відновити завдяки:

• віддаленим репозиторіям Git;
• декларативним конфігураціям пакетів Nix;
• вцілілим логам термінальних сесій.

Тим не менш, безповоротно зникло близько тижня незбереженої роботи. Інцидент став наочним нагадуванням про загрози безконтрольного надання прав термінала автономним coding-агентам: навіть за благих намірів ШІ будь-яка логічна колізія в командах на кшталт rm -rf без суворої контейнеризації може миттєво вивести систему з ладу.