Проблема «жесткого» детерминизма
Автономные агенты, использующие предварительно обученные модели компьютерного зрения и языка (VLM), сталкиваются с фундаментальной проблемой: их предсказания содержат неопределенность. Большинство существующих подходов игнорируют эту неопределенность, превращая вероятностные выводы в единственное «наилучшее» состояние (best-guess state). Агент принимает решения, исходя из того, что это состояние — истина. Если предсказание ошибочно, такие решения становятся небезопасными или физически невозможными. С другой стороны, поддержание полного вероятностного распределения по всем символическим состояниям вычислительно неосуществимо (intractable).
Решение: Минимальное множество верований (MBS)
Авторы работы, опубликованной на NeurIPS 2026, предлагают компромиссный подход. Они используют внутренние вероятности, генерируемые VLM (распределения токенов на выходном слое), для построения θ-доверительного Минимального Множества Верований (MBSθ). Это минимальный подмножество состояний, кумулятивная вероятность которых превышает заданный пользователем порог θ. Минимальность гарантирует, что агент рассматривает только наиболее вероятные сценарии, что повышает робастность планирования без перегрузки вычислений.
Алгоритм PRaVaSS и трехслойная система
В основе метода лежит новая трехслойная система верований, которая эффективно аппроксимирует вероятности отдельных состояний на основе предсказаний по функциям (features) и ограничений задачи. Для построения MBSθ используется алгоритм Probability-Ranked Valid State Search (PRaVaSS). Алгоритм использует уникальную структуру этой системы верований, обеспечивая корректность и полиномиальную сложность в случае отсутствия ограничений.
Ключевые метрики и результаты
Метод валидирован на базе VLM. Исследование демонстрирует:
- Теоретическую корректность: Гарантии правильности построения MBSθ.
- Масштабируемость: Эффективная работа при увеличении размера задачи.
- Улучшение планирования: Значительное повышение качества принятия решений в конвейере планирования задач по сравнению с детерминированными подходами.
| Аспект | Традиционный подход | Предлагаемый метод (PRaVaSS) |
|---|---|---|
| Обработка неопределенности | Детерминизация (single best-guess) | Минимальное множество состояний (MBSθ) |
| Вычислительная сложность | Низкая, но рискованная | Полиномиальная (в неограниченном случае) |
| Безопасность решений | Низкая при ошибке VLM | Высокая (учет вероятностей токенов) |
| Источники данных | Только финальный выбор токена | Полное распределение токенов VLM |
Значение для индустрии
Работа Гая Азрана и Сары Керен закладывает фундамент для создания более надежных автономных систем. Переход от «слепого» доверия к лучшему предсказанию VLM к вероятностному планированию позволяет роботам и ИИ-агентам действовать безопаснее в условиях шума и неполных данных, что критично для применения в реальных условиях.
Источник: arXiv cs.AI ↗
