Ловушка оптимизации: случайность против алгоритма
Представьте автономную лабораторию, которая с помощью реинфорсмент-обучения оптимизирует генетические плазмиды для максимизации выхода биохимического продукта. Алгоритм успешно находит высокую эффективность, но при этом отбрасывает плазмиды, дающие нулевой выход. Однако этот «нулевой выход» мог быть вызван тем, что синтезированный белок оказался мощным антибиотиком, убившим бактерии. В отличие от Александра Флеминга, заметившего плесень, алгоритм просто считает это сбоем и исключает из поиска. Это классическая проблема закона Гудхарта: система оптимизирует то, что измеряет, упуская то, что важно, но не учитывается в метрике.
Ограничение «выпуклой оболочки» инструментов
Вторая критическая проблема — предположение, что решение находится в «выпуклой оболочке» доступных инструментов. Если для обнаружения нового явления нужен гиперспектральный датчик, которого нет в лаборатории, AI его не увидит. История науки полна примеров, когда открытия делались благодаря появлению новых инструментов, а не просто использованию существующих. Физик Фриман Дайсон отмечал, что за последние 500 лет было около 20 инструментальных революций, сопоставимых по значимости с концептуальными сдвигами Коперника или Ньютона.
Автономные лаборатории: инженеры, а не ученые
Компании вроде Periodic Labs (советник — Нобелевский лауреат Чжан Сюй) строят системы с передовыми сенсорами (RHEED, ARPES, RIXS, XPS, STM) для поиска сверхпроводников. Однако, как заметил Андре Гейм, открывший графен скотчем, наука часто требует нестандартных, кустарных решений. Автономные системы, такие как Lila или Dunia, скорее всего, станут мощными оптимизаторами процессов (инженерия), но не смогут генерировать по-настоящему новые гипотезы, требующие «научного вкуса» и изобретения новых инструментов.
Парадокс «дешевых идей»
В индустрии AI распространено мнение, что «идеи дешевы, важна реализация». Однако для науки это не так: «хорошая идея стоит миллиона экспериментов». Главный瓶颈 (узкое место) остается в генерации гипотез. Пока AI не обретет уровень дexterous reasoning, позволяющий создавать новые инструменты и замечать аномалии, как это делал Флеминг, он останется инструментом оптимизации, а не открытий.
| Критерий | Традиционный ученый (на примере Флеминга) | Автономная AI-лаборатория |
|---|---|---|
| Реакция на аномалию | Изучает отклонение от нормы (плесень) | Отбрасывает как сбой (0% выхода) |
| Инструментарий | Готов использовать подручные средства (скотч, чашки Петри) | Ограничен предустановленным набором сенсоров |
| Цель | Исследовательский интерес / любопытство | Максимизация заданной метрики (yield) |
| Тип деятельности | Научное открытие (инновация) | Инженерная оптимизация (интерполяция) |
Вывод
Для создания настоящего «AI-ученого» недостаточно просто подключить LLM к роботизированной лаборатории. Необходима интеграция механизмов любопытства-driven learning (когда система сама стремится уменьшить ошибку предсказания) и способности к созданию новых инструментов. Без этого AI будет лишь эффективно повторять известное, но не открывать новое.
Источник: LessWrong ↗