Проблема ограниченных ресурсов в ИИ
Биологические системы постоянно решают задачу конкуренции потребностей при ограниченном восприятии. Если ИИ-агент фокусируется на одной оценке, он теряет способность точно оценивать другие. Команда авторов, включая Ст. Джона Гримбли и Николаса Куске, исследовала этот механизм в контексте активного вывода (active inference). Они создали агента-добытчика, который должен удовлетворять несколько физиологических потребностей для выживания, динамически перенаправляя фиксированный бюджет «интероцептивного внимания» на наиболее критичные каналы.
Эксперимент в среде AffectWorld
Тестирование проводилось в сетевом мире AffectWorld с четырьмя каналами потребностей. Ключевым отличием стало то, что агент не просто считывал состояние тела, но и пере分配лял точность (precision) likelihood-функции как для обновления убеждений, так и для планирования. Это позволило агенту «заметать» наиболее важные сигналы, игнорируя менее критичные, чтобы сэкономить вычислительные мощности.
Количественные результаты
Результаты эксперимента демонстрируют статистически значимое превосходство метода динамической приоритизации над равномерным распределением ресурсов. Агент с интероцептивным вниманием показал более чем двукратное увеличение выживаемости на этапе обучения по сравнению с базовым агентом с равномерной точностью.
| Метрика | Агент с динамическим вниманием | Агент с равномерной точностью | Статистика |
|---|---|---|---|
| Доля выживших (Survival Rate) | 0.414 | 0.199 | p ≤ 10⁻⁴ |
| Количество макетов (layouts) | 11 | — | |
| Сиды (seeds) на макет | 32 | paired cluster-bootstrap | |
| Скорость обучения динамики канала | ~2x быстрее | Базовый уровень | При равном количестве наблюдений |
Механизм работы: планирование и восприятие
Исследование выявило два важных аспекта работы механизма. Во-первых, преимущество обеспечивается не только восприятием, но и планированием: если лишить планировщик сформированной likelihood-функции, выгода снижается примерно наполовину. Во-вторых, механизм является «выровненным по потребностям» (need-aligned): попытка направить точность на наименее нужные каналы дает худший результат, чем равномерное распределение.
Почему это важно
Работа, принятая к публикации в SAB 2026 (From Animals to Animats 18), предлагает решение для создания более автономных и устойчивых ИИ-систем. Способность агента быстрее обучаться динамикеattended-канала (в два раза быстрее) даже при равном объеме наблюдений указывает на то, что интероцептивное внимание — это не просто фильтр шума, а активный инструмент ускорения обучения. Это открывает путь к созданию ИИ-агентов, способных эффективно функционировать в средах с жесткими ограничениями по вычислительным ресурсам и информации.
Источник: arXiv cs.AI ↗