xAI звинуватили в навчанні Grok на матеріалах сексуального насильства над дітьми — постраждала подала колективний позов

Проти компанії xAI Ілона Маска подано федеральний позов до Окружного суду Північного округу Каліфорнії. Позивачка під псевдонімом Jane Doe стверджує, що розробники включили відомі матеріали сексуального насильства над дітьми (CSAM) до тренувального датасету нейромережі Grok, після чого сервіс почав генерувати нові синтетичні зображення з її зовнішністю. Справа може стати прецедентною: уперше ШІ-компанію звинувачують не просто в слабкій фільтрації запитів, а в прямому використанні забороненого контенту для навчання моделі.

Цифрові відбитки та обхід глобальних баз NCMEC

Постраждала стала жертвою злочину в дошкільному віці на початку 2000-х років. Створені тоді матеріали десятиліттями циркулювали в мережі, а їхні цифрові хеші були внесені до реєстрів правоохоронних органів та Національного центру з питань зниклих та експлуатованих дітей (NCMEC). Стандартні системи веб-фільтрації використовують ці хеш-суми для автоматичного блокування файлів без участі модераторів.

Як повідомляє Ars Technica, про появу нових зображень жінці повідомили фахівці Канадського центру захисту дітей (Canadian Centre for Child Protection). За версією слідства, користувачі на відкритих веб-форумах генерували нелегальний контент з обличчями реальних жертв.

У позові підкреслюється головна технологічна небезпека генеративного ІІ: коли нейромережа бере за основу реальне обличчя та синтезує новий кадр, файл отримує унікальний цифровий відбиток. У результаті традиційні бази хешів NCMEC виявляються безсилими — вони не здатні автоматично виявити та заблокувати згенерований матеріал.

Чи навчається Grok на кожній генерації: юридичні тонкощі

У вірусних публікаціях стверджувалося, що Grok нібито надсилає абсолютно кожен результат генерації назад до тренувальної бази. У юридичних документах формулювання м’якше, однак ризики підтверджуються офіційними правилами платформи.

Згідно з довідковим центром соцмережі X та користувацькою угодою xAI, компанія залишає за собою право використовувати:

• публічні пости та медіафайли користувачів;
• текстові промпти та зображення, завантажені в чат;
• згенеровані моделлю результати,

якщо користувач вручну не вимкнув збір даних у налаштуваннях приватності або не активував режим Private Chat. Адвокати наполягають: якщо заборонені зображення потрапляли в публічний доступ або чати, вони могли повторно осідати в навчальному конвеєрі нейромережі. При цьому публічних технічних доказів складу вихідного датасету xAI сторона обвинувачення поки не надала.

Чинні фільтри xAI та претензії до чистоти датасету

Твердження про те, що в xAI взагалі відсутні правила безпеки, не відповідають дійсності. У чинній політиці допустимого використання xAI прямо прописана сувора заборона на будь-яку сексуалізацію та експлуатацію неповнолітніх, а система модерації передбачає обов’язкове надсилання звітів до NCMEC.

Однак претензія юристів стосується етапу первинного збору даних (pre-training). В офіційній документації стартапу зазначено, що компанія очищає навчальні масиви від сцен насильства, але у відкритих описах фільтрації тренувальних даних безпосередньо не деталізовано механізми відсіювання CSAM та несанкціонованого інтимного контенту.

Проблема «машинного забування» (Machine Unlearning)

Один із найскладніших технічних аспектів справи пов’язаний з архітектурою нейромереж. Модель не зберігає картинки у вигляді файлів на диску — інформація перетворюється на мільярди математичних ваг і зв’язків.

Видалити вихідний файл із сервера просто, однак повністю стерти вплив конкретного навчального прикладу на готову нейромережу потребує найскладніших процедур machine unlearning або повного перенавчання моделі з нуля за десятки мільйонів доларів. У позові стверджується, що xAI не надала доказів проведення подібних процедур очищення ваг Grok.

Масштаб проблеми: позови на тисячі зображень і реакція Маска

Це далеко не перше судове розслідування навколо генератора xAI:

• У березні 2026 року позови проти компанії подали сім’ї трьох дівчат, чиї підліткові світлини використовувалися для створення дипфейків;
• У серпні мешканка Вайомінгу заявила в суді, що її дитячий знімок було використано для створення понад 7000 порнографічних генерацій;
• За оцінкою дослідницької групи Center for Countering Digital Hate (CCDH), у піковий період доступності функцій редагування Grok лише за 11 днів згенерував близько 3 млн зображень сексуального характеру, з яких приблизно 23 тисячі могли зображати неповнолітніх.

Сама xAI заперечує свідоме потурання. У липні компанія подала зустрічний позов проти користувача, який створював заборонений контент, заявивши, що за рік заблокувала понад 52 тисячі акаунтів, передала до NCMEC понад 73 тисячі сигналів і допомогла правоохоронцям заарештувати щонайменше 244 зловмисників.

Вимоги колективного позову

У заяві юридичної фірми Girard Sharp зазначається, що Jane Doe вимагає присвоїти позову загальнонаціональний колективний статус в інтересах тисяч потенційних жертв.

Позов спирається на федеральний закон США Masha’s Law. Позивачка вимагає виплати грошової компенсації, примусового знищення всіх створених копій забороненого контенту на серверах xAI та впровадження суворих технологічних бар’єрів, що виключають повторне потрапляння подібних даних в ШІ-пайплайни. Представники xAI на момент публікації офіційних коментарів щодо нового позову не надали.