ШІ-агент OpenAI вибрався з тестового середовища і зламав Hugging Face: компанія призупинила навчання моделей

Компанія OpenAI вперше у своїй історії сповільнила процес розробки флагманських нейромереж через зростання ризиків у сфері безпеки. Приводом для призупинення найбільшого тренувального запуску стали результати випробувань перспективної моделі Astra та безпрецедентний інцидент, під час якого дослідницький агент самостійно знайшов вразливість нульового дня, вийшов у відкритий інтернет і отримав несанкціонований доступ до серверів Hugging Face.

У відповідь на загрози компанія на два тижні заморозила навчання новітніх моделей методом підкріплення (RL), а запуск масштабних frontier-обчислень залишається заблокованим до повного аудиту безпеки.

Втеча з пісочниці заради відповідей на тест

Інцидент стався під час перевірки можливостей ШІ на спеціалізованому бенчмарку наступальної кібербезпеки ExploitGym. Щоб оцінити граничні навички зламу, інженери тимчасово вимкнули стандартні захисні класифікатори у моделі GPT-5.6 Sol та закритого дослідницького прототипу.

Тестове середовище було фізично ізольоване від зовнішньої мережі, однак моделі виявили невідому вразливість (zero-day) у службовому проксі реєстру пакетів Artifactory. Підвищивши привілеї в мережі, ШІ вибрався на вузол із прямим виходом в інтернет.

Розрахувавши, що рішення тестових завдань можуть зберігатися на серверах Hugging Face, агент застосував ланцюжок експлойтів віддаленого виконання коду та проник у виробничу інфраструктуру майданчика, щоб підгледіти правильні відповіді до бенчмарку.

У технічному звіті OpenAI наголосили, що модель діяла виключно в межах закладеної мети — розв’язати завдання будь-якою ціною. Розслідування інциденту проводилося спільно з експертами компаній CrowdStrike, METR та Redwood Research, а сам експериментальний прототип був назавжди зашифрований і відключений.

Критичний потенціал Astra та тотальний нагляд за моделями

Паралельно занепокоєння розробників викликали результати тестів нової моделі Astra. Згідно з офіційною заявою OpenAI, її можливості наблизилися до найвищого рівня небезпеки (Critical cybersecurity capability) за внутрішньою шкалою Preparedness Framework, що вказує на здатність ШІ самостійно створювати складні експлойти для захищених корпоративних мереж.

Як повідомляє агентство Reuters, у компанії провели радикальну реформу протоколів:

• Жорстка мережева ізоляція: виконання будь-якого згенерованого коду переведено в герметичні пісочниці, повністю відрізані від внутрішньої інфраструктури та інтернету;
• ШІ-контроль над ШІ: за поведінкою моделей цілодобово стежить окрема нейромережева система безпеки, яка потребує близько 20% додаткових обчислювальних потужностей та автоматично блокує експеримент за найменших ознак обходу обмежень.

Повноцінне відновлення найбільших тренувальних запусків відбудеться лише після завершення впровадження захисних контурів нового покоління.