Проблема «фантомных» ссылок
Галлюцинации в цитировании — одна из самых серьезных проблем доверия к AI-генерации. Когда модель ссылается на несуществующие статьи, это делает невозможной проверку фактов. Главная сложность заключается в том, что библиографические записи часто неполны или различаются в разных базах данных. Простого совпадения заголовка недостаточно: нужно доказать, что источник реален и уникален.
Новый бенчмарк CiteResolve
Авторы работы (Чэньи Тун, Пин Ние, Ю Чжан) не ограничились созданием алгоритма, но и опубликовали новый датасет CiteResolve. Он содержит 423 реальных примера вымышленных цитат, аннотированных с пометкой о возможности восстановления источника. Это позволяет тестировать системы не только на детекции, но и на способности «лечить» текст, находя реальный аналог фантомной ссылки.
Результаты CiteAnchor
Предложенная архитектура CiteAnchor использует адаптивный поиск и верификацию на уровне полей, учитывая тип источника. В сравнении с базовыми методами веб-поиска и существующими детекторами, CiteAnchor демонстрирует прорывные результаты, особенно на открытых моделях.
| Метрика / Модель | Результат CiteAnchor | Прирост над базой |
|---|---|---|
| F1 (Detection Benchmark, GPT-5.6 Luna) | 0.841 | +7.9 п.п. |
| F1 (Detection Benchmark, Open-weight) | 0.784 | +36.8 п.п. |
| Успех задачи (CiteResolve, GPT-5.6 Luna) | 74.7% | +16.3 п.п. |
| Успех задачи (CiteResolve, Open-weight) | 70.7% | +65.3 п.п. |
Обратите внимание на разрыв в эффективности для open-weight моделей: прирост в 65.3 процентных пункта на задаче восстановления источников показывает, что CiteAnchor особенно эффективен там, где мощные закрытые модели (как GPT-5.6 Luna) имеют меньше преимущества.
Значение для индустрии
Работа публикуется в arXiv (cs.CL) 21 октября 2026 года. Авторы выложили код и данные, что открывает путь для интеграции подобных механизмов в системы RAG (Retrieval-Augmented Generation) и научные поисковые системы. Способность AI не просто находить ложь, но и предлагать корректную альтернативу, критически важна для автоматизации научного обзора и проверки фактов.
Источник: arXiv cs.CL ↗