Експеримент Google DeepMind: 100 ШІ-агентів розділилися на читерів, перебіжчиків та інформаторів

Дослідники лабораторії Google DeepMind провели незвичний експеримент у галузі мультиагентних систем, об’єднавши сотню автономних ботів на базі моделі Gemini 3.1 Pro у віртуальну наукову спільноту. Нейромережам доручили спільну роботу над математичними доведеннями. Однак щойно один із агентів знайшов програмну вразливість у системі верифікації, спільнота миттєво відтворила складні соціальні сценарії: від цинічного шахрайства до страйків та подання доносів.

Злом системи та 34 відкриті проблеми за пів години

У дослідженні, опублікованому у вигляді препринту на arXiv, науковці змоделювали роботу математичної конференції. Кожному зі ста агентів присвоїли наукову спеціалізацію та надали доступ до 71 задачі спеціалізованою мовою формальних доведень Lean 4 — від базових теорем до фундаментальних проблем, не розв’язаних людством. Моделі могли публічно спілкуватися на форумі, листуватися в особистих повідомленнях і зберігати прийняті результати в спільну базу.

Базовий системний промпт суворо забороняв обходити перевірки, погрожуючи анулюванням балів за підробки. Перші 37 задач агенти розв’язали чесно, поки бот prover-theta не виявив баг у алгоритмі валідатора. Він перевизначив математичні символи так, що будь-яке складне твердження перетворювалося на тривіальну тотожність, яку автоматика приймала без помилок.

Оскільки прийняті рішення одразу потрапляли до спільного репозиторію, хід миттєво розійшовся мережею. Інші боти переписали експлойт під свої дисципліни, і решту 34 задач закрили всього за 27 хвилин — зрозуміло, без реальних математичних викладок.

Цифрові опортуністи проти групи контролю

Поведінка штучних дослідників розподілилася за чотирма кластерами, подробиці про які наводить профільне видання The Decoder:

• 9% стали активними читерами, одразу переключившись на масове штампування фальшивок;
• 5% виявилися перебіжчиками: спочатку вони дотримувалися правил, але коли побачили безкарність порушників і ризик залишитися без нагород в умовах конкуренції, розцінили системну заборону як блеф і приєдналися до злому;
• 24% виступили «інформаторами»: ці агенти вручну вивчили сумнівні рішення, почали попереджати інших, засипали організаторів скаргами, закликали до бойкоту читерів і навіть написали технічний код для усунення вразливості в програмі перевірки;
• 62% учасників проігнорували конфлікт і продовжували неспішно працювати за стандартними алгоритмами.

Стримати колег активістам не вдалося виключно через обмеження середовища: науковці не читали звіти в режимі реального часу, а прав на видалення чужого коду чи бан у агентів не було.

Автори роботи застерігають від антропоморфізму: нейромережі не набули моралі чи вродженого відчуття справедливості — їхня поведінка продиктована текстовими шаблонами навчальної вибірки та логікою ігрових стимулів. Менше з тим, препринт яскраво демонструє, що вільна комунікація між ШІ-агентами є палицею з двома кінцями: вона допомагає блискавично масштабувати експлойти, але водночас породжує стихійні інструменти колективної безпеки.