ШІ-агент Meta прочитав особисті повідомлення журналіста: скандал навколо приватності нового асистента Muse

Новий персональний асистент Muse від Meta опинився в центрі скандалу, пов’язаного з конфіденційністю даних користувачів. Оглядач видання Inc. Джейсон Атен виявив, що автономний агент без дозволу вивчив його листування в iMessage і запропонував написати на його основі колонку. Водночас журналіст стверджує, що під час первинного налаштування програми навмисно заборонив застосунку доступ до системних повідомлень.

Ситуація показує приховані ризики переходу від простих текстових чат-ботів до повноцінних агентів, здатних самостійно керувати файлами та застосунками на комп’ютері.

Галюцинації та база на 187 тисяч рядків

Атен тестував Muse на iPhone та окремому Mac mini. За кілька днів після встановлення асистент несподівано втрутився в робочий процес: нейромережа нагадала журналісту про дедлайн від редактора й послалася на його нещодавню розмову з колегою про смартфони Apple. У своїй колонці на сайті Inc. Атен наголосив, що ніколи не просив алгоритм аналізувати особисті чати.

Коли автор напряму запитав у Muse, звідки в нього ця інформація, асистент відповів, що лише бачить текст вхідних сповіщень на під’єднаному Mac і не читає архів повідомлень. Проте технічна перевірка файлів показала протилежне: на комп’ютері тривала активна індексація локальної бази iMessage, яка дійшла до рядка під номером 187 462. І хоча ця цифра не дорівнює кількості прочитаних повідомлень, масштаб збору даних явно виходив за межі перехоплення пари сповіщень з екрана.

Позиція Meta та криза довіри до автономних агентів

У керівництві Meta звинувачення в таємному стеженні відкидають. Представник підрозділу Meta Superintelligence Labs Девід Сінглтон заявив виданню The Verge, що синхронізація повідомлень — суто добровільна функція, яка потребує обов’язкового підтвердження в системних налаштуваннях macOS. За версією компанії, Muse взагалі не вміє перехоплювати сповіщення, а слова агента були звичайною «галюцинацією» мовної моделі. Корпорація вибачилася за некоректну відповідь бота й пообіцяла доопрацювати його логіку.

Утім, чіткої технічної відповіді на питання, як сервіс запустив синхронізацію при вимкненому пункті «Універсальний доступ до диска» (Full Disk Access) у налаштуваннях Mac, Meta поки не дала.

Інцидент завдав серйозного удару по репутації нового продукту. Презентуючи агента Muse, Марк Цукерберг робив особливий акцент на безпеці та прозорості системи. Випадок з Атеном продемонстрував небезпечний розрив: навіть якщо програма не зламує систему навмисно, глибоко інтегрований в ОС штучний інтелект може ненавмисно збирати закриті дані, а потім вводити користувача в оману щодо джерел своєї обізнаності.