Иллюзия понимания: кейс Brown University
Весной 2026 года в Брауновском университете произошел инцидент, ставший метафорой новой эпохи. Студенты курса экономики показали аномально высокие результаты на домашнем контрольном: средний балл составил 95,7% среди 59 сдавших. Однако на очном финальном экзамене, где использование ИИ было невозможно, средний балл рухнул до 48,8%.
Хотя статистический анализ (Topaz & Bahl, 2026) не смог однозначно доказать использование ИИ из-за различий в форматах заданий, разрыв в 47 процентных пунктов наглядно демонстрирует проблему: получение правильного ответа больше не равно пониманию материала.
Масштаб проблемы: 722 рукописи от OpenAI
В октябре 2026 года OpenAI опубликовала 722 математические рукописи, сгруппированные в 372 семейства результатов, созданные с помощью внутренней модели ИИ. Инициатива вызвала смешанные чувства: от восторга до тревоги. Многие работы требовали срочных исправлений или были отозваны, так как оказались «хрупкими» и лишены глубокой теоретической основы.
Ключевой вывод: ИИ-генерация доказательств ускоряет производство текста, но не гарантирует его научную ценность. Экспертам приходится тратить колоссальные ресурсы на верификацию, реконструкцию и объяснение того, что именно сделал ИИ.
Разрыв между открытием и объяснением
Традиционный научный метод (наблюдение → гипотеза → проверка) предполагает, что понимание механизма является неотъемлемой частью процесса. ИИ разрывает эту цепь. Теперь алгоритм может:
- Сгенерировать формально верное математическое доказательство без интуитивного объяснения «почему».
- Найти молекулу с антибактериальной активностью (как в случае с halicin, Stokes et al., 2020), не раскрывая механизм действия.
- Создать алгоритм, превосходящий базовые модели, без выявления обобщающего теоретического принципа (Fawzi et al., 2022; Romera-Paredes et al., 2023).
Данные: Сравнение традиционного и ИИ-подходов
| Критерий | Традиционная наука | ИИ-генерация знаний |
|---|---|---|
| Скорость получения результата | Низкая (человеческий фактор) | Высокая (автоматизация) |
| Глубина понимания | Высокая (интеграция в теорию) | Низкая/Отсутствует (черный ящик) |
| Верификация | Естественная часть процесса | Требует ручного труда экспертов |
| Пример | Вывод формулы из аксиом | 722 рукописи OpenAI (2026) |
Почему это важно?
Мы переходим от эпохи, где открытие и понимание шли рука об руку, к эпохе «поиска и оценки». ИИ действует как система, которая находит эффективные решения через перебор и тестирование, опережая человеческое понимание. Это создает риск накопления «мертвого знания» — фактов и алгоритмов, которые работают, но не могут быть объяснены, интегрированы или безопасно использованы в новых контекстах. Контроль за смыслом, а не только за результатом, становится главной задачей исследователя будущего.
Источник: Towards AI pub ↗