Арест за чат с Claude: ИИ-модель стала ключевым доказательством в деле о угрозе стрельбы

Суть инцидента

Карли Мишель Хеллер, 30 лет, из города Бонита-Спрингс (Флорида), была задержана у себя дома. Поводом послужила переписка с языковой моделью Claude от компании Anthropic. В ходе диалога женщина не только обсуждала планы устроить стрельбу в офисе шерифа, но и прямо указала, что уже приобрела необходимое оружие.

Как сработала защита

Ключевую роль сыграла внутренняя система безопасности Anthropic. Алгоритмы пометили сообщения как содержащие серьезные угрозы опасных действий. После автоматической фильтрации случай был проверен человеком-специалистом по безопасности, который подтвердил риск и передал информацию правоохранительным органам. Этот кейс демонстрирует, что диалоги с ИИ не являются приватными и могут быть использованы против пользователя.

Юридические последствия

Хеллер предъявлены обвинения в совершении преступления второй степени согласно статье 836.10 закона штата Флорида. Данная статья предусматривает ответственность за публикацию или передачу электронных сообщений с угрозой убийства или причинения телесных повреждений, включая угрозы стрельбы. Адвокаты защиты планируют оспаривать факт передачи угрозы третьим лицам, так как переписка велась с ИИ-инструментом, а не с человеком.

Контекст и прецеденты

Использование логов чат-ботов в качестве судебных доказательств становится все более актуальным. Летом 2024 года СМИ уже сообщали о подобных случаях в США, где переписка с ChatGPT и другими моделями приводила к задержаниям. Однако практика показывает, что такие доказательства не всегда убеждают присяжных, особенно если нет прямого контакта с жертвой или свидетелями.

Источник: Habr ↗