Проблема «нулевых» гипотез
Автоматизированные системы научного поиска часто предлагают объяснения явлений, которые затем проходят тесты на согласованность. Однако новое исследование, принятое на NeurIPS 2026 (Workshop: XAI4Science), показывает, что прохождение теста не гарантирует научной ценности. Авторы вводят понятие Null Controls (нулевых контролей) — случаев, когда модель находит паттерн, который математически корректен, но физически пуст.
Ключевой пример: редукция, сводящая все состояния системы к нулю, предсказывает собственное будущее с идеальной точностью. Такой «нулевой» кандидат проходит проверку замкнутости в 96% из 129 публичных хаотических систем, хотя не сохраняет никакой динамической вариации. Независимый тест на сохранение наблюдаемых величин полностью отвергает его.
Четыре операции и три метрики
Для оценки достоверности открытий исследователи разработали четыре исполняемые операции для изменения физических описаний и три типа интерпретируемости. Результаты тестирования на контролируемых бенчмарках показали высокую эффективность комбинированных критериев:
| Критерий / Операция | Результат на «нулевых» (ложных) кандидатах | Результат на реальных редукциях |
|---|---|---|
| Combined Criteria (Совокупный тест) | Отвергнуты: 72/72 | Приняты: 24/24 |
| Linear CKA (в языковых моделях) | Неизменен при случайной ротации (ложноположительный) | — |
| Localized Interventions (в ESM-2) | Отличает настоящие отображения от нулевых | — |
| Enrichment (в sparse autoencoders) | Отвергнуты: 16/16 | — |
Разрывы в доверии к AI
Исследование выявило два типа «разрывов принятия» (acceptance gaps). Первый: дескриптивные тесты могут принимать кандидатов, которые научны только на вид. Второй: даже принятые кандидаты могут не иметь независимо подтвержденных следствий. В моделях sparse autoencoders обогащение (enrichment) отвергло все 16 тестовых нулей, однако независимая абляция подтвердила лишь 45% обогащенных признаков, в то время как среди контрольных групп поддержка составила всего 0.5%.
Вывод для индустрии
Надежный автоматизированный научный поиск требует оценки не только того, что тест принимает, но и того, какие научные следствия он устанавливает. Простого совпадения данных недостаточно — необходимы независимые проверки сохранения наблюдаемых величин и причинно-следственных связей.
Источник: arXiv cs.AI ↗