ChatGPT выдумал свидетелей и полицию в деле об убийстве: суд в США оштрафовал адвоката на $5000

Верховный суд штата Нью-Мексико признал адвоката Стивена Ааронса виновным в неуважении к суду после того, как юрист подал апелляционную жалобу по делу об убийстве с вымышленными показаниями свидетелей, сгенерированными ChatGPT. Защитника оштрафовали на $5000, отстранили от процесса и передали дело в дисциплинарную комиссию.

Ааронс представлял интересы Оскара Рене Сандовала, отбывающего пожизненный срок за убийство своей партнерши. Проблемный документ юрист направил в судебную канцелярию еще в августе 2025 года.

Несуществующие полицейские и галлюцинации модели o3

Согласно судебному постановлению, в тексте апелляции появились показания несуществующих сотрудников полиции — офицеров Мишель Амарильо и Санчеса, а также двух вымышленных гражданских свидетелей. Чат-бот подробно расписал детали, которых никогда не было в протоколах: выдумал угрозы в адрес подсудимого, а также сочинил приметы и цвет одежды стрелка. Кроме того, документ содержал искаженные трактовки решений по двум реальным судебным прецедентам.

На дисциплинарных слушаниях адвокат признал, что доверил работу нейросети. Как сообщает издание Ars Technica, сначала юрист перевел аудиозаписи заседаний в текст через сервис транскрибации, а затем загрузил полученные массивы в ChatGPT на базе модели OpenAI o3 для составления итогового резюме.

Ключевой претензией коллегии стало не само применение технологий, а полное отсутствие проверки: Ааронс подписал и отправил документ, даже не сверив имена и цитаты с реальными материалами дела, а клиенту о возникшем скандале сообщать не стал.

Прецедент: почему это опаснее фальшивых цитат

По решению суда все поданные Ааронсом материалы исключили из дела, а осужденному назначили нового государственного защитника. Самому адвокату запретили выступать перед Верховным судом штата вплоть до завершения расследования этической комиссии.

Как отмечает агентство Reuters, инцидент в Нью-Мексико стал тревожным прецедентом. Если раньше юристов наказывали за сгенерированные ИИ фальшивые ссылки на чужие судебные решения, то в этом деле алгоритм впервые подменил доказательную базу в процессе об особо тяжком преступлении.

Судьи отдельно напомнили, что использование генеративных инструментов законом не запрещено, однако персональная юридическая ответственность за достоверность каждого факта в процессуальных документах целиком лежит на юристе.