Редкое перемирие гигантов: Сэм Альтман согласился с главой Anthropic о необходимости замедлить развитие передового ИИ

Генеральный директор OpenAI Сэм Альтман публично поддержал инициативу руководителя Anthropic Дарио Амодеи о контролируемом сдерживании темпов разработки сверхмощных моделей искусственного интеллекта. Два непримиримых конкурента сошлись во мнении: индустрии необходимо искусственно замедлить гонку параметров, чтобы методы контроля и безопасности успевали за растущими возможностями алгоритмов.

Манифест Амодеи: риск биооружия и потеря контроля

Поводом для публичной дискуссии послужило программное эссе Дарио Амодеи We Must Pace the Frontier. Основатель Anthropic заявил, что эволюция моделей идет быстрее, чем фундаментальные исследования их интерпретируемости и надежности. В числе главных угроз ближайших лет он назвал выход из-под контроля автономных систем, разрушительные автоматизированные кибератаки и потенциальную помощь алгоритмов в разработке биологического оружия.

Амодеи пояснил, что не выступает за полный запрет технологий. Его предложение сводится к «регулированию шага»: искусственному замедлению предельного прироста возможностей флагманских систем. По оценке исследователя, даже один-два года выигрыша во времени позволят ученым создать работающие математические гарантии безопасности до появления первых критически опасных систем.

План главы Anthropic включает три практических шага:

1. Допуск независимых аудиторов к внутренней разработке на правах штатных инженеров для непрерывного анализа моделей на этапе обучения;
2. Создание картельного соглашения между разработчиками о добровольных ограничениях на безудержное масштабирование кластеров;
3. Международный межправительственный контроль за наиболее рискованными направлениями исследований.

Ответ Альтмана и открытые двери для аудиторов

Сэм Альтман поддержал коллегу в социальной сети X, подтвердив, что вопрос регулирования скорости развития ИИ стал главной темой внутри руководства OpenAI за последние недели.

«Идея привлечь независимых экспертов с уровнем доступа, аналогичным правам штатных сотрудников, отличная. Мы собираемся поступить точно так же и в скором времени подробно расскажем о новом формате проверок», — написал глава OpenAI.

Как подчеркивает агентство Reuters, совместное заявление глав двух ведущих ИИ-лабораторий мира стало редким примером солидарности в технологическом секторе. До сих пор коммерческое соперничество вынуждало стартапы форсировать релизы из страха отстать от оппонентов.

Ключевая интрига теперь состоит в том, смогут ли компании трансформировать посты в соцсетях в реальный механизм самоограничения, не нарушая антимонопольное законодательство и соглашения с инвесторами.