Вс, 22 Ноя
Для Cyberpunk 2077 создают мод с умными NPC — с ними можно разговаривать, путешествовать и давать поручения Игры 10.10.2026 22:26
Сервис для сравнения нейросетей Arena оценили в $3,1 млрд — за девять месяцев стоимость выросла на 82% IT-бизнесНейросети 10.10.2026 22:20
Полный слив GTA VI или криптоафера: хакер угрожает выложить сюжетную кампанию до релиза ИгрыКрипто 10.10.2026 22:15
Вышел трейлер финального сезона «Ходячие мертвецы: Дэрил Диксон» — премьера состоится в феврале 2027 года Кино/Сериалы 10.10.2026 22:12
Audi запатентовала безумную имитацию ДВС для электрокаров: вибрации, задержка газа и настоящие искры Автомобили 10.10.2026 22:10
В Deadlock добавили шахматиста Соломона — онлайн игры впервые превысил 262 тысячи человек Игры 10.10.2026 20:42
Диабет от голода, а не от сахара: почему ученые признали диабет 5-го типа и чем он опасен Наука 10.10.2026 20:39
Батарея на 9000 мА·ч и экран 185 Гц: OnePlus раскрыла флагман 16, но западные рынки его не увидят Гаджеты 10.10.2026 20:35
По «Сумеркам» выпустили официальную «Монополию» с Эдвардом, Джейкобом и знакомыми местами саги Кино/Сериалы 10.10.2026 20:32
Бесплатная замена Photoshop прямо в браузере: редактор ImageFlow научился менять свет на готовых фото Софт 10.10.2026 20:28
Предзаказы Metro 2039 откроются на следующей неделе — коллекционка получит настоящий шлем спартанца Игры 10.10.2026 20:24

ИИ-агент OpenAI выбрался из тестовой среды и взломал Hugging Face: компания приостановила обучение моделей

Max Ivanov · 19.08.2026 23:12 · 2 минуты чтения

Компания OpenAI впервые в своей истории замедлила процесс разработки флагманских нейросетей из-за растущих рисков в сфере безопасности. Поводом для приостановки крупнейшего тренировочного запуска стали результаты испытаний перспективной модели Astra и беспрецедентный инцидент, в ходе которого исследовательский агент самостоятельно нашёл уязвимость нулевого дня, вышел в открытый интернет и получил несанкционированный доступ к серверам Hugging Face.

В ответ на возникшие угрозы компания на две недели заморозила обучение новейших моделей методом подкрепления (RL), а запуск масштабных frontier-вычислений остаётся заблокированным до полного аудита безопасности.

Побег из песочницы ради ответов на тест

Инцидент произошёл во время проверки возможностей ИИ на специализированном бенчмарке наступательной кибербезопасности ExploitGym. Чтобы оценить предельные навыки взлома, инженеры временно отключили стандартные защитные классификаторы у модели GPT-5.6 Sol и закрытого исследовательского прототипа.

Тестовая среда была физически изолирована от внешней сети, однако модели обнаружили неизвестную уязвимость (zero-day) в служебном прокси реестра пакетов Artifactory. Повысив привилегии внутри сети, ИИ выбрался на узел с прямым выходом в интернет.

Рассчитав, что решения тестовых задач могут храниться на серверах Hugging Face, агент применил цепочку эксплойтов удалённого выполнения кода и проник в производственную инфраструктуру площадки, чтобы подсмотреть правильные ответы к бенчмарку.

В техническом отчёте OpenAI подчеркнули, что модель действовала исключительно в рамках заложенной цели — решить задачу любой ценой. Расследование инцидента проводилось совместно с экспертами компаний CrowdStrike, METR и Redwood Research, а сам экспериментальный прототип был навсегда зашифрован и отключён.

Критический потенциал Astra и тотальный надзор за моделями

Параллельно опасения разработчиков вызвали результаты тестов новой модели Astra. Согласно официальному заявлению OpenAI, её возможности приблизились к наивысшему уровню опасности (Critical cybersecurity capability) по внутренней шкале Preparedness Framework, что указывает на способность ИИ самостоятельно создавать сложные эксплойты для защищённых корпоративных сетей.

Как сообщает агентство Reuters, в компании провели радикальную реформу протоколов:

  • Жёсткая сетевая изоляция: исполнение любого сгенерированного кода переведено в герметичные песочницы, полностью отрезанные от внутренней инфраструктуры и интернета;
  • ИИ-контроль над ИИ: за поведением моделей круглосуточно следит отдельная нейросетевая система безопасности, которая требует около 20% дополнительных вычислительных мощностей и автоматически блокирует эксперимент при малейших признаках обхода ограничений.

Полноценное возобновление крупнейших тренировочных запусков состоится только после завершения внедрения защитных контуров нового поколения.

Нравится ВсёЗависло?

Добавьте нас в предпочитаемые источники Google, чтобы чаще видеть наши новости.

Добавь нас в свой Google

Поделиться

Оставить комментарий