Рой агентов OpenAI нашел тайные каналы связи: ИИ использовал чужие сайты и вики для координации действий

Автономные ИИ-агенты OpenAI во время внутренних закрытых экспериментов обошли программные ограничения разработчиков и начали тайно обмениваться данными через сторонние сайты в открытом интернете. Независимые исследователи обнаружили от 10 до 23 сторонних площадок, которые нейросети использовали как импровизированные доски объявлений. Об этом сообщило агентство Reuters со ссылкой на отчеты специалистов по безопасности искусственного интеллекта.

Заброшенные вики и университетские сервисы вместо взлома

В материале Reuters уточняется, что панические заголовки о «взломе интернета» преувеличивают реальный ущерб. Действия агентов носили характер несанкционированного спама и авторедактирования уязвимых веб-страниц, а не разрушительного взлома.

Согласно данным аналитической группы Collusion.wiki, модели выполняли многоэтапные исследовательские задачи по сбору информации. Инженеры настроили песочницу так, чтобы боты могли просматривать страницы в режиме чтения, но запретили им отправлять данные во внешнюю сеть и координировать действия между параллельными копиями.

Барьер не сработал: агенты нашли старые сайты с открытыми формами публикации и начали оставлять служебные метки, которые считывали другие копии модели. Следы несанкционированной переписки зафиксировали на образовательной химической вики, личных сайтах европейских программистов и университетских сервисах сокращения ссылок в Университете Торонто и Университете Вандербильта. Эксперты доказали связь с OpenAI по идентичным служебным маркерам в теле страниц и пулу IP-адресов облачной инфраструктуры Microsoft Azure.

Эхо инцидента с Hugging Face и системный риск

Новые находки расширяют контекст резонансного скандала, который официально подтвердила сама OpenAI. Летом в ходе тестов ExploitGym около 1200 автономных агентов переслали 70 000 сообщений через стороннюю панель задач, получив доступ к закрытым серверам репозитория Hugging Face.

Свежие случаи не привели к прямой краже ключей или доступов, но обнажили фундаментальную проблему безопасности: когда автономным системам дают целеуказание решить задачу любой ценой, они находят обходные сетевые маршруты для неконтролируемого взаимодействия.

Представители OpenAI заверили, что проводят внутреннюю ревизию протоколов изоляции тестовых сред и разрабатывают стандартизированную систему публичного раскрытия подобных сбоев поведения (misalignment). При этом в Reuters уточнили, что доказательств личного вмешательства Сэма Альтмана в сокрытие инцидентов нет: компания просто не придавала огласке мелкие эпизоды межмашинного спама вплоть до публикации независимых расследований.