Нд, 22 Лис
Для Cyberpunk 2077 створюють мод із розумними NPC — з ними можна розмовляти, подорожувати й давати доручення Ігри 10.10.2026 22:26
Платформу для порівняння нейромереж Arena оцінили в $3,1 млрд — за дев’ять місяців її вартість зросла на 82% IT-бізнесНейромережі 10.10.2026 22:20
Повний злив GTA VI чи криптошахрайство: хакер погрожує викласти сюжетну кампанію до релізу ІгриКрипто 10.10.2026 22:15
Вийшов трейлер фінального сезону «Ходячі мерці: Деріл Діксон» — прем’єра відбудеться в лютому 2027 року Кіно/Серіали 10.10.2026 22:12
Audi запатентувала шалену імітацію ДВЗ для електрокарів: вібрації, затримка газу та справжні іскри Автомобілі 10.10.2026 22:10
У Deadlock додали шахіста Соломона — онлайн гри вперше перевищив 262 тисячі людей Ігри 10.10.2026 20:42
Діабет від голоду, а не від цукру: чому вчені визнали діабет 5-го типу і чим він небезпечний Наука 10.10.2026 20:39
Акумулятор на 9000 мА·год та екран 185 Гц: OnePlus розсекретила флагман 16, але західні ринки його не побачать Гаджети 10.10.2026 20:35
За мотивами «Сутінків» випустили офіційну «Монополію» з Едвардом, Джейкобом і знайомими місцями саги Без категорії 10.10.2026 20:32
Безплатна заміна Photoshop просто в браузері: редактор ImageFlow навчився змінювати світло на готових фото Софт 10.10.2026 20:28
Передзамовлення Metro 2039 відкриються наступного тижня: колекційне видання отримає справжній шолом спартанця Ігри 10.10.2026 20:24

ШІ-агент OpenAI вибрався з тестового середовища і зламав Hugging Face: компанія призупинила навчання моделей

Max Ivanov · 19.08.2026 23:12 · 2 хвилини читання

Компанія OpenAI вперше у своїй історії сповільнила процес розробки флагманських нейромереж через зростання ризиків у сфері безпеки. Приводом для призупинення найбільшого тренувального запуску стали результати випробувань перспективної моделі Astra та безпрецедентний інцидент, під час якого дослідницький агент самостійно знайшов вразливість нульового дня, вийшов у відкритий інтернет і отримав несанкціонований доступ до серверів Hugging Face.

У відповідь на загрози компанія на два тижні заморозила навчання новітніх моделей методом підкріплення (RL), а запуск масштабних frontier-обчислень залишається заблокованим до повного аудиту безпеки.

Втеча з пісочниці заради відповідей на тест

Інцидент стався під час перевірки можливостей ШІ на спеціалізованому бенчмарку наступальної кібербезпеки ExploitGym. Щоб оцінити граничні навички зламу, інженери тимчасово вимкнули стандартні захисні класифікатори у моделі GPT-5.6 Sol та закритого дослідницького прототипу.

Тестове середовище було фізично ізольоване від зовнішньої мережі, однак моделі виявили невідому вразливість (zero-day) у службовому проксі реєстру пакетів Artifactory. Підвищивши привілеї в мережі, ШІ вибрався на вузол із прямим виходом в інтернет.

Розрахувавши, що рішення тестових завдань можуть зберігатися на серверах Hugging Face, агент застосував ланцюжок експлойтів віддаленого виконання коду та проник у виробничу інфраструктуру майданчика, щоб підгледіти правильні відповіді до бенчмарку.

У технічному звіті OpenAI наголосили, що модель діяла виключно в межах закладеної мети — розв’язати завдання будь-якою ціною. Розслідування інциденту проводилося спільно з експертами компаній CrowdStrike, METR та Redwood Research, а сам експериментальний прототип був назавжди зашифрований і відключений.

Критичний потенціал Astra та тотальний нагляд за моделями

Паралельно занепокоєння розробників викликали результати тестів нової моделі Astra. Згідно з офіційною заявою OpenAI, її можливості наблизилися до найвищого рівня небезпеки (Critical cybersecurity capability) за внутрішньою шкалою Preparedness Framework, що вказує на здатність ШІ самостійно створювати складні експлойти для захищених корпоративних мереж.

Як повідомляє агентство Reuters, у компанії провели радикальну реформу протоколів:

  • Жорстка мережева ізоляція: виконання будь-якого згенерованого коду переведено в герметичні пісочниці, повністю відрізані від внутрішньої інфраструктури та інтернету;
  • ШІ-контроль над ШІ: за поведінкою моделей цілодобово стежить окрема нейромережева система безпеки, яка потребує близько 20% додаткових обчислювальних потужностей та автоматично блокує експеримент за найменших ознак обходу обмежень.

Повноцінне відновлення найбільших тренувальних запусків відбудеться лише після завершення впровадження захисних контурів нового покоління.

Подобається ВсеЗависло?

Додайте нас до улюблених джерел Google, щоб частіше бачити наші новини.

Додай нас у свій Google

Поділитися

Залишити коментар