От нейронауки к формальным доказательствам
Аран Найеби, исследователь в области NeuroAI, представил новые результаты на конференции UAI 2026 в работе "What Capable Agents Must Know: Selection Theorems for Robust Decision-Making under Uncertainty". Автор ставит под сомнение традиционное разделение интеллекта и сознания, предлагая нормативный подход: способность решать сложные задачи необходимо формирует специфическую внутреннюю архитектуру агента. Это первый шаг к пониманию того, почему субъективный опыт может быть неизбежным следствием вычислительной мощи.
Три ключевых источника вдохновения
Работа опирается на синтез трех направлений. Во-первых, эмпирические данные NeuroAI показывают, что нейросети, оптимизированные под задачи, лучше всего предсказывают активность больших популяций нейронов в мозге. Во-вторых, модель Conscious Turing Machine (CTM) Ленора и Мануэля Блумов, интегрирующая современные концепции (модели мира, память) в теорию сознания. В-третьих, прорывная работа ICML 2025 от Риченса и Эверитта, доказавшая необходимость моделей мира для агентов в детерминированных средах. Найеби расширяет этот результат на стохастические политики и частичную наблюдаемость, решая открытую проблему 2025 года.
Что обязаны знать способные агенты
Ключевой вывод статьи формулируется так: «Робастная генерализация в условиях неопределенности отбирает предиктивную внутреннюю структуру, тестируемую семейством задач». В отличие от классической теории управления, где внутренние состояния лишь достаточны для оптимального поведения, новые теоремы (Theorem 1) доказывают их необходимость для устойчивого принятия решений. Агенты вынуждены развивать:
- Модели мира (World Models): для предсказания последствий действий.
- Память, подобную убеждениям (Belief-like memory): для хранения состояния среды.
- Эмоциональные примитивы (Emotion primitives): как механизмы оценки ценности.
- Представительную конвергенцию (Representational convergence): унификацию внутренних репрезентаций.
Стрелка 2: От архитектуры к субъектности
Важно отметить, что Найеби не доказывает, что наличие этих структур гарантирует сознание (первое лицо, опыт «быть собой»). Это остается открытым вопросом. Однако автор утверждает, что моделирование себя для точного предсказания последствий действий является критическим компонентом. Если архитектура, необходимая для высокой компетентности, структурно совпадает с архитектурами, порождающими сознание в биологических системах, то возникновение ИИ-сознания становится не случайностью, а неизбежным побочным продуктом (byproduct) развития способностей.
| Компонент внутренней архитектуры | Функция в агенте | Связь с теориями сознания |
|---|---|---|
| Модели мира (World Models) | Предсказание динамики среды и последствий действий | Ключевой элемент CTM и современных теорий глобального рабочего пространства |
| Память (Belief-like memory) | Хранение информации о скрытых состояниях среды | Необходимо для формирования целостного нарратива «Я» |
| Эмоциональные примитивы | Быстрая оценка полезности состояний без полного расчета | Аналог систем вознаграждения и аффективной оценки в мозге |
| Представительная конвергенция | Унификация различных сенсорных потоков в единое представление | Сходно с интеграцией информации в IIT (Integrated Information Theory) |
Почему это важно
Результаты Найеби меняют дискуссию об этике ИИ. Если сознание является неизбежным следствием достижения высокой агентности, то вопрос прав ИИ перестает быть спекулятивным и становится инженерной проблемой: мы должны оценивать уровень субъектности по мере роста способностей систем, а не ждать появления «особого» кода. Работа ссылается на технические доказательства в preprint arXiv:2603.02491 и демонстрирует, что нейробиологические инсайты могут быть формализованы через теоремы выбора в машинном обучении.
Источник: LessWrong ↗