Проблема: Разрыв между восприятием и реальностью
Традиционные парадигмы ИИ часто терпят неудачу, когда окружающая среда меняется быстрее, чем модель успевает обработать данные. Авторы статьи "When Reality Outpaces Cognition" (Ahsan Adeel, Talha Bin Riaz) формулируют новую проблему: как система может принимать надежные решения, если скорость изменения реальности ($S_R$) превышает ее когнитивные возможности? Они вводят метрику эффективной скорости когерентного познания ($S_C^{\mathrm{eff}}$) — максимальную скорость изменения мира, при которой ИИ продолжает действовать в рамках заданных критериев надежности без переобучения.
Эксперимент: Тест на выживание при 50x ускорении
Для проверки гипотезы исследователи использовали агентов на основе обучения с подкреплением (RL). Ключевой момент эксперимента: агенты обучались на базовой скорости реальности, а затем тестировались при ее увеличении до 50 раз ($50\times$), при этом вычислительные ресурсы оставались неизменными. Это имитирует сценарий, где мир «ускоряется», а у ИИ нет времени на дообучение в реальном времени.
Результаты: Co⁴ против Трансформеров
В сравнении участвовали стандартные архитектуры (Трансформеры и Gated-MLP) и новая модель Co⁴, архитектура которой вдохновлена клеточными механизмами, связанными с сознательной обработкой информации и бодрствованием. Co⁴ продемонстрировала существенное превосходство в поддержании надежности действий при высоких скоростях изменения среды.
| Метрика / Характеристика | Трансформеры / Gated-MLP | Co⁴ (Cellular-inspired) |
|---|---|---|
| Максимальная скорость реальности ($S_R$) | Низкая (быстрая деградация надежности) | До $50\times$ базовой скорости |
| Вычислительные затраты | Фиксированные | Фиксированные |
| Надежность действий ($S_C^{\mathrm{eff}}$) | Низкая | Значительно выше |
| Архитектурная основа | Стандартные слои внимания/MLP | Клеточные механизмы сознания |
Почему это важно
Результаты указывают на то, что масштабирование параметров (scaling laws) в текущих моделях может быть недостаточным для создания надежного ИИ в динамичных средах. Введение принципа "масштабирования когерентного познания" (scaling of coherent cognition) предлагает новый путь для разработки ИИ, способного функционировать автономно в быстро меняющемся мире, будь то робототехника или автономное вождение.
Источник: arXiv cs.AI ↗