ModelLog: новая метрика оценки LLM через семантические ограничения

Проблема текущих метрик

Несмотря на быстрый прогресс больших языковых моделей (LLM), существующие методы оценки часто не отражают реальное понимание модели. Традиционные метрики, такие как likelihood токенов или точность ответов (accuracy), не способны выявить систематические логические ошибки. Авторы работы из arXiv (2026) предлагают перейти от оценки вероятностей отдельных токенов к проверке семантических ограничений.

Суть подхода ModelLog

Предложенный фреймворк ModelLog позволяет специфицировать цели оценки в виде символьных ограничений над предсказаниями на уровне токенов. Система измеряет, насколько сильно распределение модели удовлетворяет этим ограничениям. Ключевое отличие — возможность интерпретировать баллы оценки как функции потерь (losses), градиенты которых отражают логическую силу, информативность и чувствительность к переменным.

Экспериментальные задачи

Для тестирования фреймворка исследователи создали новый набор задач, фокусирующихся на трех ключевых аспектах рассуждений:

• Отрицание (Negation): способность модели корректно обрабатывать логические отрицания.
• Взаимная исключительность (Mutual Exclusivity): проверка того, что модель не присваивает истинность взаимоисключающим свойствам одновременно.
• Согласованность (Consistency): устойчивость выводов к вариациям формулировки.

Результаты и значение

Использование ModelLog выявило систематические сбои в поведении моделей, которые оставались незамеченными при использовании стандартных метрик. Подход связывает оценку и обучение через общую семантику, предлагая новые инструменты для диагностики поведения моделей и прояснения структуры их обучения.

Работа подчеркивает необходимость пересмотра методов валидации LLM, смещая фокус с поверхностной статистики на глубокую семантическую проверку.

Источник: arXiv cs.CL ↗