Массовое внедрение ИИ в судебную систему
Судьи и их помощники начали активно делегировать написание судебных решений искусственному интеллекту. Этот процесс носит характер добровольного постепенного ослабления полномочий судебной системы. Наиболее заметным симптомом этой тенденции стали многочисленные случаи, когда ИИ генерирует ложные цитаты и вымышленные прецеденты, которые судьи принимают за реальные юридические акты.
Масштаб проблемы: база данных галлюцинаций
Французский академик Дамьен Шарлотен (Damien Charlotin) ведет специализированную базу данных судебных решений, содержащих ошибки ИИ. По состоянию на момент публикации, в ней собрано уже более 2000 решений, где были обнаружены вымышленные ссылки, созданные как адвокатами, так и судьями. Это указывает на системный характер проблемы, а не на единичные сбои.
Технические ограничения современных моделей
Несмотря на прогресс, современные языковые модели, такие как 5.6 sol и Opus 5, все еще не способны гарантированно соблюдать правила цитирования. Статистика показывает, что они генерируют некорректные ссылки более чем в 50% случаев. Водяные знаки и попытки обнаружения фальсификаций пока не останавливают судейский корпус от использования этих инструментов.
| Параметр | Значение / Описание |
|---|---|
| Кол-во зафиксированных ошибок | Более 2000 судебных решений |
| Уровень ошибок в новых моделях | >50% (5.6 sol, Opus 5) |
| Пример инцидента | Судья в Оклахоме использовал ИИ, создавший ссылки на несуществующие дела |
| Эффективность защиты | Водяные знаки и детекторы пока не сдерживают процесс |
Почему это критично для общества
Судебная система принимает решения, затрагивающие миллиарды долларов в гражданских спорах и свободу, а иногда и жизнь людей в уголовных делах. Добровольный отказ от написания текстов означает, что всё больше серьезных споров будет разрешаться алгоритмами, часто без надлежащего раскрытия факта использования ИИ. Эксперты прогнозируют, что через несколько лет это станет нормой, что ставит под угрозу прозрачность и справедливость правосудия.
Источник: LessWrong ↗