ChatGPT вигадав свідків та поліцію у справі про вбивство: суд у США оштрафував адвоката на $5000

Верховний суд штату Нью-Мексико визнав адвоката Стівена Ааронса винним у неповазі до суду після того, як юрист подав апеляційну скаргу у справі про вбивство з вигаданими показаннями свідків, які згенерував ChatGPT. Захисника оштрафували на $5000, відсторонили від процесу та передали справу до дисциплінарної комісії.

Ааронс представляв інтереси Оскара Рене Сандовала, який відбуває довічний термін за вбивство своєї партнерки. Проблемний документ юрист надіслав до судової канцелярії ще в серпні 2025 року.

Неіснуючі поліцейські та галюцинації моделі o3

Згідно із судовою ухвалою, у тексті апеляції з’явилися показання неіснуючих співробітників поліції — офіцерів Мішель Амарільйо та Санчеса, а також двох вигаданих цивільних свідків. Чат-бот детально розписав подробиці, яких ніколи не було в протоколах: вигадав погрози на адресу підсудного, а також прикмети та колір одягу стрільця. Крім того, документ містив перекручені трактування рішень щодо двох реальних судових прецедентів.

На дисциплінарних слуханнях адвокат визнав, що довірив роботу нейромережі. Як повідомляє видання Ars Technica, спочатку юрист перевів аудіозаписи засідань у текст через сервіс транскрибації, а потім завантажив отримані масиви в ChatGPT на базі моделі OpenAI o3 для складання підсумкового резюме.

Ключовою претензією колегії стало не саме використання технологій, а повна відсутність перевірки: Ааронс підписав і надіслав документ, навіть не звіривши імена та цитати з реальними матеріалами справи, а клієнту про скандал повідомляти не став.

Прецедент: чому це небезпечніше за фальшиві цитати

За рішенням суду всі подані Ааронсом матеріали вилучили зі справи, а засудженому призначили нового державного захисника. Самому адвокату заборонили виступати перед Верховним судом штату аж до завершення розслідування етичної комісії.

Як зазначає агентство Reuters, інцидент у Нью-Мексико став тривожним прецедентом. Якщо раніше юристів карали за згенеруванні ШІ фальшиві посилання на чужі судові рішення, то у цій справі алгоритм уперше підмінив доказову базу в процесі щодо особливо тяжкого злочину.

Судді окремо нагадали, що використання генеративних інструментів законом не заборонено, однак персональна юридична відповідальність за достовірність кожного факту в процесуальних документах повністю лежить на юристові.