«Жодна компанія не діє відповідально»: провідний дослідник Anthropic залишив індустрію через ризик втрати контролю над ШІ

Дослідник Джейкоб Коксон, який раніше працював в OpenAI та останні три роки відповідав за попереднє навчання моделей в Anthropic, оголосив про звільнення з компанії та повний розрив з індустрією штучного інтелекту. Фахівець заявив, що агресивні комерційні перегони змушують провідні лабораторії нехтувати протоколами безпеки заради прискореного створення алгоритмів, здатних до самовдосконалення.

Компроміси заради виживання на ринку

У своїй публічній заяві та інтерв’ю газеті The Wall Street Journal 27-річний спеціаліст детально пояснив мотиви звільнення. Коксон перейшов в Anthropic саме через її репутацію лабораторії, яка ставить етику та безпеку вище за ринкову вигоду. Проте на практиці необхідність тримати темп у боротьбі з OpenAI та іншими гігантами звела ці принципи до формальності.

«Жодна з компаній зараз не діє відповідально. Усередині лабораторій багато хто серйозно припускає катастрофічні сценарії вже до кінця десятиліття, але ніхто не може дозволити собі натиснути на гальма через страх втратити лідерство», — заявив розробник.

За оцінкою Коксона, темпи розвитку випереджають розуміння архітектури: сучасні нейромережі вже здатні автономно шукати експлойти в коді та брати участь у розробці софту, тоді як надійних методів математичного контролю за поведінкою надінтелектуальних систем досі не створено.

Загроза рекурсивного самовдосконалення

Побоювання інженера безпосередньо перегукуються з нещодавньою аналітичною запискою дослідницького інституту Anthropic, присвяченою рекурсивному самовдосконаленню (RSI). У матеріалі визнається: коли алгоритми починають масово писати код для тренування власних наступних ітерацій, імовірність критичної втрати керованості різко зростає.

Як підкреслює видання Business Insider, демарш Коксона поповнив низку звільнень профільних дослідників із підрозділів безпеки провідних ШІ-компаній.

Коксон закликає уряди запровадити жорсткий регуляторний нагляд за індустрією та законодавчо закріпити тимчасовий мораторій на нарощування параметрів надпотужних моделей. Його звільнення не є доказом того, що безконтрольний надінтелект уже створено, проте наочно ілюструє тривожні настрої всередині елітних команд розробників.