В мире искусственного интеллекта, где генеративные модели ежедневно создают миллионы строк текста, возникает критическая проблема: как отличить качественный научный вклад от убедительного, но ошибочного бреда? Традиционный процесс рецензирования в научных журналах и на конференциях опирается на экспертов-людей, которые тратят десятки часов на чтение, проверку формул и анализ экспериментов. Однако этот процесс не масштабируется, а количество подаваемых статей растет экспоненциально. На этом фоне появляется новая парадигма: использование ИИ не для того, чтобы просто имитировать стиль человеческой рецензии, а для того, чтобы находить реальные логические и фактические ошибки.
Команда Sakana AI представила исследование "Beyond Imitation", опубликованное в Transactions on Machine Learning Research (TMLR). Это не просто еще один инструмент для автоматизации рутины. Это фундаментальный сдвиг в подходе к оценке качества ИИ-ассистентов. Авторы задали сложный вопрос: может ли искусственный интеллект выявить специально внедренную ошибку в научной работе? Результаты превзошли ожидания. Система Multi-Layered Review (MLR) обнаружила 73,43% критических ошибок в заявках, что в пять раз превышает показатели лучших существующих базовых моделей. В этой статье мы подробно разберем, как устроена эта система, почему она работает лучше аналогов и что это значит для исследователей и разработчиков, работающих с LLM.
01От копирования к обнаружению ошибок: новая метрика качества
Большинство современных систем ИИ-рецензирования оцениваются по одному простому, но ограничивающему критерию: насколько близко их текст соответствует рецензиям, написанным людьми. Если ИИ пишет «статья интересна, но требует доработки», как это сделал бы человек, его считают успешным. Однако такая метрика не гарантирует, что ИИ действительно понял содержание статьи. Он может просто угадать правильные слова, не вникая в суть.
Sakana AI предлагает более жесткий и практичный подход. Вместо того чтобы спрашивать «похоже ли это на человеческую рецензию?», исследователи спрашивают: «Находит ли ИИ ошибки?». Для этого была создана специальная бенчмарк-платформа — Contradiction Benchmark. Суть метода заключается во внедрении искусственных противоречий в реальные научные статьи. Если ИИ-рецензент может обнаружить эти внедренные ошибки, значит, он действительно анализирует логику и факты, а не просто генерирует текст.
Этот подход особенно важен в эпоху, когда LLM часто страдают от галлюцинаций. Если система не может найти ошибку в чужой работе, высока вероятность, что она сама будет генерировать ошибки в своей. Поэтому способность к детекции ошибок становится главным индикатором надежности ИИ-ассистента в научной среде.
02Архитектура Multi-Layered Review: три агента, одна цель
Сердцем системы Sakana AI является Multi-Layered Review (MLR). Это не монолитная модель, а сложная система из трех специализированных агентов, работающих на базе доступных коммерческих моделей Claude (Sonnet 4 и Haiku 3.5). Важно отметить, что система не требует тонкой настройки (fine-tuning) или мощных GPU для обучения. Она работает «из коробки» через API, что делает её доступной для широкого круга разработчиков.
Процесс рецензирования разделен на три этапа, каждый из которых выполняет свою роль:
- Агент приложения (Appendix Agent) на базе Claude Haiku 3.5. Его задача — быстро обработать технические детали. Он анализирует приложения (appendix) к статье, суммируя эксперименты и детали реализации. Это позволяет отделить основной нарратив от технической «кухни», которая часто содержит ключи к пониманию валидности результатов.
- Агент литературного обзора (Literature Review Agent) на базе Claude Sonnet 4. Этот агент использует веб-поиск, чтобы поместить статью в контекст предыдущих работ. Он проверяет, действительно ли авторы ссылаются на актуальные исследования и не игнорируют ли важные предшественники. Этот этап является опциональным, но значительно обогащает контекст рецензии.
- Агент рецензента (Review Agent) на базе Claude Sonnet 4. Это главный «мозг» системы. Он использует трехэтапный подход, вдохновленный классической методикой С. Кешава (Keshav’s Three-Pass Approach), адаптированной для LLM.
Трехэтапный процесс рецензента работает следующим образом:
- Этап 1: Создание высокоуровневого плана статьи. Агент определяет основную гипотезу и структуру аргументации.
- Этап 2: Детальное чтение. Агент ищет слабости, необоснованные предположения и пробелы в логике. На этом этапе он также анализирует PDF-файл напрямую, что позволяет сохранить формулы и фигуры, которые часто теряются при конвертации в текст.
- Этап 3: Синтез. Все выводы агрегируются в структурированный отчет: сильные стороны, слабые стороны, вопросы, рекомендация, оценка и список задач (To-Do list).
03Как работает бенчмарк Contradiction Benchmark?
Чтобы проверить эффективность MLR, команда Sakana AI создала масштабный набор данных. Они собрали 257 статей с лицензией CC, опубликованных на ведущих конференциях 2024-2025 годов: ACL, AISTATS, CVPR, ICML и NeurIPS. Затем в эти статьи были внедрены ошибки.
Процесс внедрения ошибок был автоматизирован и строго контролировался:
- Построение графа знаний. Модель Gemini 2.5 Pro анализирует каждую статью, строя граф, связывающий утверждения, доказательства и методы. Узлы графа ранжируются по их значимости. Узлы, напрямую связанные с «главным утверждением» (main claim), имеют расстояние 0. Чем дальше узел от главного утверждения, тем менее критична ошибка в нем.
- Внедрение противоречий. Модель GPT-4.1 переписывает один узел на каждом уровне расстояния, превращая его в противоречие. Всего было создано 1164 точки данных с внедренными ошибками разной степени тяжести.
- Оценка результатов. Для проверки того, заметил ли ИИ-рецензент ошибку, используется модель o3 в роли судьи. Каждая рецензия оценивается 10 раз для статистической надежности. На чистых (без ошибок) статьях система достигла точности 99,9%, что подтверждает её способность не выдавать ложных срабатываний.
Такой подход позволяет не только проверить, нашла ли система ошибку, но и оценить, насколько правильно она оценила её серьезность. Если ИИ находит ошибку в главном утверждении, но игнорирует ошибку в деталях, это свидетельствует о глубоком понимании материала.
04Результаты: MLR против базовых моделей
Результаты тестирования MLR на бенчмарке Contradiction Benchmark оказались впечатляющими. Система превзошла все протестированные базовые модели (baselines) по всем ключевым метрикам.
При использовании четырех рецензий MLR обнаружила 73,43% ошибок в главных утверждениях (расстояние 0) и 40,95% всех ошибок в целом. Для сравнения, лучшая базовая модель, AgentReview, смогла обнаружить лишь 14,81% ошибок в главных утверждениях. Даже одна рецензия от MLR нашла 60,79% критических ошибок, что говорит о высокой эффективности архитектуры.
Абляционное исследование (ablation study) показало, что успех MLR обусловлен не только выбором модели, но и архитектурой. Замена GPT-4.1 на Claude Sonnet 4 внутри другой системы (LLM-Review) повысила обнаружение ошибок с 14,56% до 35,40%. Однако именно трехэтапная архитектура MLR добавила еще около 25 процентных пунктов. Это доказывает, что правильный процесс рецензирования так же важен, как и мощность модели.
Однако есть и слабые места. На реальных отозванных статьях из базы WithdrarXiv-Check (211 статей) результаты были скромнее. MLR нашла 26,07% «похожих» ошибок и лишь 16,11% «точных» совпадений. Хотя это лучше, чем у базовых моделей (9,00% для точных совпадений), это показывает, что скрытые, сложные ошибки в реальных публикациях остаются трудной задачей для ИИ.
05Сравнение с людьми: согласны ли мы?
Еще один важный вопрос: согласуются ли оценки ИИ с оценками людей? Исследование показало, что по числовым оценкам (score) MLR демонстрирует высокую корреляцию с человеческими рецензентами. На данных ICLR 2025 коэффициент корреляции Пирсона между оценками MLR и людьми составил 0,586. Для сравнения, корреляция между двумя людьми составляет 0,742. На ICML 2025 система AI Reviewer показала немного лучший результат (0,439 против 0,429 у MLR), но MLR все равно остается в лидерах.
Однако есть важное различие в фокусе. Люди склонны больше ценить ясность изложения и новизну идеи. MLR же делает акцент на валидности экспериментов и логической строгости. Авторы исследования рассматривают это не как недостаток, а как комплементарную перспективу. ИИ может стать идеальным «адвокатом дьявола», проверяющим техническую часть, в то время как люди оценивают творческую и коммуникативную составляющие.
06Экономика рецензирования: стоимость и эффективность
Для разработчиков и исследователей важна не только точность, но и стоимость. MLR демонстрирует отличные показатели эффективности. Стоимость одной рецензии составляет около $0,47 (без учета опционального агента литературного обзора). Это сопоставимо с другими продвинутыми системами, но при этом MLR использует значительно меньше токенов.
Система потребляет 189 062 входных токена, что примерно в два раза меньше, чем у AI Reviewer (403 654 токена). Это делает MLR более экономичной при масштабировании. Интересно, что упрощенный вариант с одним промптом (single-prompt variant) снижает стоимость в три раза, но при этом потеря около 3,5 процентных пунктов в точности обнаружения ошибок. Это классический компромисс между стоимостью и качеством, который каждый разработчик должен решать исходя из своих задач.
07Сводная таблица сравнения
Ниже приведено сравнение MLR с другими популярными ИИ-рецензентами, такими как LLM-Review, AI Reviewer и AgentReview. Данные взяты из исследования Sakana AI.
| Характеристика | MLR (Sakana AI) | LLM-Review | AI Reviewer | AgentReview |
|---|---|---|---|---|
| Используемая модель | Claude Sonnet 4 + Haiku 3.5 | GPT-4.1 | o4-mini | GPT-4o |
| Архитектура | 3 агента, 3-этапная цепочка | Один промпт, текст усечен | 5-рецензентный ансамбль, мета-рецензия | Роли: рецензент, автор, председатель |
| Обнаружение ошибок (Contradiction Benchmark, 4 рецензии) | 40,95% | 6,39% | 6,50% | 5,95% |
| Обнаружение ошибок в главных утверждениях (Distance 0) | 73,43% | 14,56% | 11,17% | 14,81% |
| WithdrarXiv-Check (похожие / точные) | 26,07% / 16,11% | 5,21% / 2,37% | 13,74% / 9,00% | 18,48% / 5,69% |
| Корреляция Пирсона с людьми (ICLR 2025) | 0,586 | -0,013 | 0,538 | 0,195 |
| Входных токенов на рецензию | 189 062 | 6 517 | 403 654 | 310 964 |
| Стоимость рецензии | ~$0,47 | ~$0,01 | ~$0,49 | ~$0,81 |
| Открытый код | По запросу | Да | Да | Да |
Как видно из таблицы, MLR выделяется не только высокой точностью обнаружения ошибок, но и сбалансированной стоимостью. LLM-Review дешевле, но значительно уступает в качестве. AgentReview дороже и менее точен в обнаружении критических ошибок.
08Что это значит на практике
Исследование Sakana AI имеет далеко идущие последствия для научного сообщества и индустрии ИИ. Во-первых, оно доказывает, что ИИ-рецензирование может быть не просто дополнением, а мощным инструментом повышения качества науки. Способность находить 73% ошибок в главных утверждениях означает, что ИИ может служить эффективным «первым фильтром», отсеивая работы с фундаментальными логическими ошибками до того, как они попадут к людям.
Во-вторых, для разработчиков агентов это сигнал к тому, что архитектура важнее размера модели. Использование доступных моделей Claude в сочетании с продуманной многоэтапной структурой дало лучшие результаты, чем более сложные или дорогие системы. Это открывает путь к созданию доступных инструментов для рецензирования, которые могут быть развернуты даже в условиях ограниченных вычислительных ресурсов.
В-третьих, исследование подчеркивает необходимость развития бенчмарков, основанных на обнаружении ошибок, а не на имитации. Если мы хотим, чтобы ИИ стал надежным помощником в науке, мы должны учить его и оценивать его по способности находить ошибки, а не по способности писать красивые тексты. Будущее AI-науки лежит в области создания систем, которые не только генерируют, но и критически анализируют информацию.
Однако нельзя игнорировать и ограничения. Сложность обнаружения ошибок в реальных отозванных статьях и уязвимость к скрытым инъекциям промптов напоминают нам, что ИИ-рецензенты пока не готовы полностью заменить человека. Они требуют осторожного внедрения, человеческой проверки и постоянного совершенствования. Но шаг, сделанный Sakana AI, является значительным прогрессом на пути к созданию более надежной и эффективной научной инфраструктуры.
Источник: MarkTechPost ↗