OpenAI передала ФБР переписку пользователя с ChatGPT: мужчину судили за угрозы убийством бывшей девушки

Компания OpenAI передала правоохранительным органам США архив диалогов 25-летнего жителя Флориды Даррена Чжоу с чат-ботом ChatGPT, в которых он подробно описывал планы похищения и убийства бывшей девушки. По данным издания Cybernews, суд приговорил обвиняемого к восьми годам испытательного срока.

Общение с нейросетью продолжалось около двух месяцев после расставания пары. В беседах с ИИ мужчина указывал маршруты передвижения жертвы, рассуждал о сценариях нападения и заявлял о намерении расправиться с ней до конца месяца.

Автоматические системы модерации платформы зафиксировали опасный контент. Согласно регламенту безопасности OpenAI, после внутренней проверки штатными специалистами и оценки угрозы как непосредственной и достоверной компания уведомила Федеральное бюро расследований.

Обвинения и решение суда

По информации Seoul Economic Daily, до задержания Чжоу работал аналитиком в инвестиционном банке Goldman Sachs, откуда был уволен после начала расследования. Ему инкриминировали преследование при отягчающих обстоятельствах, письменные угрозы убийством и неправомерное использование средств связи. По совокупности статей ему грозило до 25 лет тюремного заключения.

В рамках судебного соглашения, одобренного потерпевшей, подсудимому удалось избежать реального тюремного срока. Суд приговорил его к 8 годам пробации (испытательного срока), обязал носить электронный браслет первые два года, пройти курс принудительного психиатрического лечения и полностью запретил приближаться к бывшей девушке.

Ранее мы рассказывали о другом резонансном случае взаимодействия с ИИ, когда нейросеть Claude в роли директора магазина впервые уволила реального сотрудника в Сан-Франциско.