Исследования22 августа 2026 г., 07:18 МСК🤖 Auto

Эволюция как SGD: как геном учится «подстраиваться» под среду

Исследование CarolusRenniusVitellius проводит строгую математическую аналогию между естественным отбором и обучением нейросетей, вводя понятие «выбора по способности к выбору» (selection for selectability).

Суть открытия: Геном — это не просто код, а архитектура вариативности

Статья, опубликованная в августе 2026 года в рамках программы Iliad Fellowship, утверждает, что эволюция отбирает не только фенотипы с высокой приспособленностью, но и архитектуру генома. Ключевой вывод: в долгосрочной перспективе отбор формирует геном так, чтобы случайные мутации генерировали фенотипические изменения именно в тех направлениях, где среда колеблется чаще всего. Это явление автор называет genome–environment alignment (выравнивание генома и среды).

Математический мост: От популяций к ядрам нейросетей

Аналогия строится не на поверхностном сходстве уравнений градиентного спуска, а на структурных мотивах. Популяция рассматривается как распределение вероятностей в пространстве геномов, которое эволюционирует локально как байесовское обновление, а глобально — как стохастический градиентный спуск (SGD). Шум мутаций выполняет роль «температуры» в этом процессе, предотвращая преждевременную сходимость к локальным оптимумам (Goodharting).

Ключевые параллели между биологией и ML:

  • Feature Learning vs Genome-Environment Alignment: Обучение признаков в нейросетях математически эквивалентно выравниванию генома со средой.
  • eNTK (evolutionary Neural Tangent Kernel): Аналог ядра Неймана-Тангента, показывающий направления предпочтительных вариаций как в сети, так и в популяции.
  • G-Matrix: Биологический аналог матриц, измеряющих «низкоранговость» (low-rankness) при дообучении (finetuning) моделей.

Почему это важно для AI: Индуктивные смещения эволюции

Эволюция предпочитает «плоские минимумы» (flat minima), избыточные решения и локально-линейные структуры. Это позволяет организмам накапливать скрытую вариативность в нейтральных сетях (neutral networks) — структурах, где мутации не меняют фенотип, но создают резерв для быстрой адаптации при изменении среды. Для ML это означает, что индуктивные смещения, заложенные в архитектуру моделей, могут быть оптимизированы по тем же принципам, что и геном: не просто для текущей задачи, а для скорости адаптации к будущим изменениям.

Концепт В эволюции (Биология) В ML (Нейросети)
Базовая единица Популяция (распределение в пространстве геномов) Модель (распределение весов)
Механизм оптимизации Естественный отбор + мутации (шум) SGD + шум данных/архитектуры
Адаптация к изменениям Выравнивание генома со средой (genome–environment alignment) Feature Learning (обучение признаков)
Мера вариативности G-Matrix (генетическая ковариация) NTK / eeNTK (evolutionary NTK)
Структура устойчивости Нейтральные сети (neutral networks) Плоские минимумы (flat minima)

Перспективы: От галапагосских вьюрков к LLM

Автор предполагает, что концепция G-матрицы может быть применена для измерения кросс-зависимостей (cross-labilities) в больших языковых моделях, таких как Claude. Понимание того, как эволюция «банкирует» криптическую вариативность, может помочь в создании AI-систем, способных к более быстрой и эффективной адаптации (subliminal learning) без полной переобучки на новых данных.

Источник: LessWrong ↗