AI-модели доказали теоремы, но кто проверит их корректность?

ИИ-прорыв или галлюцинация?

В течение одной недели в октябре несколько передовых языковых моделей (LLM) опубликовали доказательства, опровергающие фундаментальные столпы теории сложности и утверждающие решение гипотезы Какеи (Kakeya conjecture) для всех размерностей. Эти заявления вызвали шок в научном сообществе, так как гипотеза Какеи является одной из самых сложных открытых проблем в гармоническом анализе и геометрической теории меры.

Проблема верификации

Ключевой вопрос, поднятый в статье, заключается не в том, способны ли модели генерировать текст, похожий на математическое доказательство, а в том, кто и как проверяет его корректность. Традиционно математические доказательства проходят строгую рецензию экспертами. ИИ-модели, такие как GPT-4, Claude или специализированные системы вроде Lean-ассистентов, могут генерировать правдоподобные, но логически несостоятельные цепочки рассуждений. Без автоматизированных проверок (например, через формальные верификаторы) такие «доказательства» остаются непроверенными гипотезами.

Почему это важно для индустрии

Этот инцидент подчеркивает критический разрыв между способностью ИИ к генерации текста и его способностью к логическому выводу. Для разработчиков AI-инструментов это сигнал к необходимости интеграции формальных методов верификации (formal verification) в рабочие процессы. Без этого доверие к ИИ как к научному инструменту останется под угрозой.

Вывод

Пока ИИ не научится не только генерировать, но и самопроверять свои логические выводы с помощью формальных систем, его роль в математике останется вспомогательной. Научное сообщество должно разработать новые стандарты валидации для ИИ-генерируемого контента, чтобы отличать реальные прорывы от убедительных, но ложных утверждений.

Источник: Towards AI pub ↗