Рідкісне перемир’я гігантів: Сем Альтман погодився з керівником Anthropic щодо потреби сповільнити розвиток передового ШІ

Генеральний директор OpenAI Сем Альтман публічно підтримав ініціативу керівника Anthropic Даріо Амодеї щодо контрольованого стримування темпів розробки надпотужних моделей штучного інтелекту. Двоє запеклих конкурентів зійшлися на думці: індустрії необхідно штучно сповільнити гонитву параметрів, аби методи контролю та безпеки встигали за зростанням можливостей алгоритмів.

Маніфест Амодеї: ризик біозброї та втрата контролю

Приводом для публічної дискусії стало програмне есе Даріо Амодеї We Must Pace the Frontier. Засновник Anthropic заявив, що еволюція моделей випереджає фундаментальні дослідження їхньої інтерпретованості та надійності. Серед головних загроз найближчих років він назвав вихід автономних систем з-під контролю, руйнівні автоматизовані кібератаки та потенційну допомогу алгоритмів у розробці біологічної зброї.

Амодеї пояснив, що не виступає за повну заборону технологій. Його пропозиція зводиться до «регулювання темпу»: штучного уповільнення граничного приросту можливостей флагманських систем. За оцінкою дослідника, навіть один-два роки виграного часу дозволять науковцям створити дієві математичні гарантії безпеки до появи перших критично небезпечних систем.

План очільника Anthropic передбачає три практичні кроки:

1. Допуск незалежних аудиторів до внутрішньої розробки на правах штатних інженерів для безперервного аналізу моделей під час навчання;
2. Укладення картельної угоди між розробниками про добровільні обмеження на нестримне масштабування кластерів;
3. Міжнародний міжурядовий контроль за найбільш ризикованими напрямами досліджень.

Відповідь Альтмана та відкриті двері для аудиторів

Сем Альтман підтримав колегу в соціальній мережі X, підтвердивши, що питання регулювання швидкості розвитку ШІ стало головною темою серед керівництва OpenAI за останні тижні.

«Ідея залучити незалежних експертів із рівнем доступу, аналогічним правам штатних співробітників, чудова. Ми збираємося вчинити так само й незабаром детально розповімо про новий формат перевірок», — написав керівник OpenAI.

Як підкреслює агентство Reuters, спільна заява очільників двох провідних ШІ-лабораторій світу стала рідкісним прикладом солідарності в технологічному секторі. Досі комерційне суперництво змушувало стартапи форсувати релізи через острах відстати від опонентів.

Ключова інтрига тепер полягає в тому, чи зможуть компанії перетворити дописи в соцмережах на реальний механізм самообмеження, не порушуючи антимонопольне законодавство й угоди з інвесторами.