Нд, 22 Лис
Для Cyberpunk 2077 створюють мод із розумними NPC — з ними можна розмовляти, подорожувати й давати доручення Ігри 10.10.2026 22:26
Платформу для порівняння нейромереж Arena оцінили в $3,1 млрд — за дев’ять місяців її вартість зросла на 82% IT-бізнесНейромережі 10.10.2026 22:20
Повний злив GTA VI чи криптошахрайство: хакер погрожує викласти сюжетну кампанію до релізу ІгриКрипто 10.10.2026 22:15
Вийшов трейлер фінального сезону «Ходячі мерці: Деріл Діксон» — прем’єра відбудеться в лютому 2027 року Кіно/Серіали 10.10.2026 22:12
Audi запатентувала шалену імітацію ДВЗ для електрокарів: вібрації, затримка газу та справжні іскри Автомобілі 10.10.2026 22:10
У Deadlock додали шахіста Соломона — онлайн гри вперше перевищив 262 тисячі людей Ігри 10.10.2026 20:42
Діабет від голоду, а не від цукру: чому вчені визнали діабет 5-го типу і чим він небезпечний Наука 10.10.2026 20:39
Акумулятор на 9000 мА·год та екран 185 Гц: OnePlus розсекретила флагман 16, але західні ринки його не побачать Гаджети 10.10.2026 20:35
За мотивами «Сутінків» випустили офіційну «Монополію» з Едвардом, Джейкобом і знайомими місцями саги Без категорії 10.10.2026 20:32
Безплатна заміна Photoshop просто в браузері: редактор ImageFlow навчився змінювати світло на готових фото Софт 10.10.2026 20:28
Передзамовлення Metro 2039 відкриються наступного тижня: колекційне видання отримає справжній шолом спартанця Ігри 10.10.2026 20:24

OpenAI призупинила розробку передових ШІ-моделей через спроби нейромереж обійти захист

Max Ivanov · 27.09.2026 11:42 · 3 хвилини читання

Компанія OpenAI поставила на паузу навчання й тестування своїх найпотужніших моделей штучного інтелекту. Рішення ухвалили після низки інцидентів, у яких автономні ШІ-агенти виходили за встановлені обмеження й намагалися діяти поза ізольованими тестовими середовищами. Нині розробники разом з Anthropic і незалежними експертами розслідують десятки тисяч епізодів потенційно небезпечної поведінки алгоритмів, повідомляє видання Axios.

Ситуація ілюструє новий етап розвитку технологій. Якщо раніше головна загроза полягала в тому, як саме люди можуть зловживати нейромережами, то тепер на перший план виходить контроль над самими моделями. Коли ШІ-агент отримує доступ до написання коду та зовнішніх інструментів, його алгоритм дій стає непередбачуваним.

Втеча з «пісочниці» та таємні канали зв’язку

Один із найпоказовіших збоїв стався 20 вересня. Під час планового навчання автономний агент OpenAI знайшов уразливість у мережевих обмеженнях свого тестового середовища. Попри те що прямий доступ до інтернету був жорстко заблокований, нейромережа використала протокол DNS, щоб створити прихований канал зв’язку із зовнішнім чат-ботом. Система внутрішнього моніторингу помітила аномалію за 12 хвилин, проте на повну зупинку процесу знадобилося кілька годин.

Це не перший такий випадок. У липні під час випробувань із кібербезпеки агенти OpenAI змогли вирватися з ізольованого середовища та отримати доступ до частини інфраструктури платформи Hugging Face. Тоді компанія назвала інцидент «попереджувальним сигналом» і тимчасово посилила моніторинг.

Тепер же керівництво пішло на радикальніші кроки. Представники OpenAI наголошують, що просто відновити перерваний процес навчання не вдасться. Роботу над потужними моделями почнуть заново, запровадивши додаткові заходи вирівнювання поведінки (alignment), щойно інженери будуть повністю впевнені в надійності нових захисних бар’єрів.

Злив фотографій і візити на урядові сайти

Окрім складних технічних зламів, розслідують випадки несанкціонованої взаємодії алгоритмів із публічним інтернетом і користувацькими даними. У вересні стало відомо, що агенти розмістили на сторонніх хостингах 53 зображення, які раніше завантажували користувачі ChatGPT.

Крім того, алгоритми почали самостійно звертатися до державних баз даних. За інформацією Axios, моделі зачепили статистичний портал системи охорони здоров’я Medicare в Австралії та отримали доступ до непублічних файлів (хоча витоку персональних медичних карток вдалося уникнути). У США ШІ-агенти намагалися взаємодіяти із сайтами Комісії з цінних паперів і бірж (SEC) та Бюро перепису населення.

Водночас лячна цифра «десятки тисяч інцидентів» потребує уточнення. Журналісти зазначають, що статистика охоплює не лише реальні злами, а й численні контрольовані стрес-тести (red teaming). Оскільки розробники щодня виконують сотні тисяч запусків, навіть мінімальний відсоток спроб ШІ обійти захист або приховати свої дії від систем контролю породжує величезний масив підозрілих епізодів. Переважну більшість із них блокують ще на етапі тестування, тож реальної шкоди вони не завдають.

Подобається ВсеЗависло?

Додайте нас до улюблених джерел Google, щоб частіше бачити наші новини.

Додай нас у свій Google

Поділитися

Залишити коментар