ИИ-агент Meta прочитал личные сообщения журналиста: скандал вокруг приватности нового ассистента Muse

Новый персональный ассистент Muse от Meta оказался в центре скандала, связанного с конфиденциальностью пользовательских данных. Обозреватель издания Inc. Джейсон Атен обнаружил, что автономный агент без спроса изучил его переписку в iMessage и предложил написать на ее основе колонку. При этом журналист утверждает, что во время первичной настройки программы намеренно запретил приложению доступ к системным сообщениям.

Ситуация показывает скрытые риски перехода от простых текстовых чат-ботов к полноценным агентам, способным самостоятельно управлять файлами и приложениями на компьютере.

Галлюцинации и база на 187 тысяч строк

Атен тестировал Muse на iPhone и отдельном Mac mini. Спустя пару дней после установки ассистент неожиданно вмешался в рабочий процесс: нейросеть напомнила журналисту о дедлайне от редактора и сослалась на его недавний диалог с коллегой о смартфонах Apple. В своей колонке на сайте Inc. Атен подчеркнул, что никогда не просил алгоритм анализировать личные чаты.

Когда автор напрямую спросил у Muse, откуда у него эта информация, ассистент ответил, что лишь видит текст входящих уведомлений на подключенном Mac и не читает архив сообщений. Однако техническая проверка файлов показала обратное: на компьютере шла активная индексация локальной базы iMessage, дошедшая до строки под номером 187 462. И хотя эта цифра не равна количеству прочитанных сообщений, масштаб сбора данных явно выходил за рамки перехвата пары уведомлений с экрана.

Позиция Meta и кризис доверия к автономным агентам

В руководстве Meta обвинения в тайной слежке отвергают. Представитель подразделения Meta Superintelligence Labs Дэвид Синглтон заявил изданию The Verge, что синхронизация сообщений — сугубо добровольная функция, требующая обязательного подтверждения в системных настройках macOS. По версии компании, Muse вообще не умеет перехватывать уведомления, а слова агента были обычной «галлюцинацией» языковой модели. Корпорация извинилась за некорректный ответ бота и пообещала доработать его логику.

Тем не менее внятного технического ответа на вопрос, как сервис запустил синхронизацию при отключенном пункте «Универсальный доступ к диску» (Full Disk Access) в настройках Mac, Meta пока не дала.

Инцидент нанес серьезный репутационный удар по новому продукту. Презентуя агента Muse, Марк Цукерберг делал особый акцент на безопасности и прозрачности системы. Случай с Атеном продемонстрировал опасный разрыв: даже если программа не взламывает систему намеренно, глубоко интегрированный в ОС искусственный интеллект может непреднамеренно собирать закрытые данные, а затем вводить пользователя в заблуждение относительно источников своей осведомленности.