Три лица математики
Автор выделяет три различных типа математической деятельности, которые часто смешиваются в дискуссиях об ИИ:
- Math A (Ancestral): Изучение «естественных» математических объектов, мотивированных реальным миром, интуицией или другими разделами математики. Здесь ключевую роль играет доказательство теорем.
- Math B (Benchmarky): Разрешение конкретных conjectures (предположений) из Math A. Именно этот тип задач сейчас используется для бенчмарков академиков и современных ИИ.
- Math C (Computational): Доказательство утверждений в формальных системах, таких как ZFC или Lean. Это полностью верифицируемые, нефизические задачи.
Важно отметить, что Math B является пересечением множеств A и C. Успехи ИИ в Math B могут быть обусловлены тем, что эта область является подмножеством Math C, что открывает путь к созданию полноценного Math ASI.
Почему Math C — это больше, чем просто доказательства
Если ИИ достигнет уровня Math ASI, он не просто будет решать абстрактные задачи. Автор приводит три демонстрации того, как формальная математика пересекается с прикладными проблемами:
1. Факторизация и квантовые вычисления
Рассмотрим задачу: существует ли делитель числа N, меньший k? Эксперты считают, что единственный общий способ решения — использование масштабируемого квантового компьютера и алгоритма Шора. Это означает, что настоящий Math ASI, вероятно, будет тесно связан с развитием квантовых технологий, так как это строго формализуемая задача Math C.
2. Оптимизация алгоритмов
Вопрос о существовании «сверхбыстрого» алгоритма сортировки или умножения матриц звучит как инженерная задача, но он имеет четкую математическую формулировку:
- Алгоритмы — это программы, вычисление которых является математическим утверждением.
- Модели времени выполнения на оборудовании — математические объекты.
- «Сверхбыстро» можно определить как улучшение на 10% по сравнению с лучшим известным алгоритмом в среднем по распределению входных данных.
Таким образом, Math ASI должен стать и Algorithm Optimization ASI. Более того, возможно доказательство существования такого алгоритма без его непосредственного изобретения, хотя для практического применения потребуется явное указание алгоритма.
3. Разработка самих ИИ
Самый интригующий пункт: может ли ИИ улучшить сам себя через математику? Вопрос «существует ли алгоритм, реализующий супер-умный ИИ?» сложен, но его можно переформулировать в терминах сжатия данных. Если рассматривать огромные массивы интернет-данных как математические объекты, то задача поиска алгоритма, который эффективно сжимает эти данные с учетом затрат на обучение и инференс, становится строгой математической проблемой. Значительная часть работы по улучшению LLM уже сейчас сводится к ответам на подобные четко поставленные вопросы.
Выводы: Бычий или Медвежий сценарий?
Для сторонников быстрого прогресса ИИ (bull case) это отличная новость: улучшение ИИ в математике напрямую ведет к улучшению ИИ в разработке ИИ. Однако для скептиков (bear case) есть повод для осторожности: текущие впечатляющие результаты ИИ часто ограничены узкой частью Math B (например, поиском контрпримеров), и неизвестно, обобщатся ли эти успехи на всю область Math C.
Источник: LessWrong ↗