От автономии к партнерству
ИИ-системы переходят от выполнения изолированных задач к длительному взаимодействию с людьми. Исследователи подчеркивают, что эффективность агентов теперь зависит не только от вычислительной мощности, но и от способности понимать человеческие перспективы, координировать互补 capabilities и поддерживать продуктивные отношения в социально-технических средах.
Два столпа взаимодействия
Авторы структурируют подходы вокруг двух взаимосвязанных проблем: понимания других и принятия решений о том, как с ними взаимодействовать. Это требует перехода от статических моделей к динамическим, учитывающим неопределенность и конфликтующие цели.
Технологический стек
Для реализации этих концепций сообщество AAMAS выделяет конкретные вычислительные методы. Ниже приведена классификация подходов, используемых для создания «понимающих» агентов:
| Категория | Методы и технологии | Цель применения |
|---|---|---|
| Представление ментальных состояний | Theory of Mind, BDI-архитектуры, обратное планирование | Инференция частично наблюдаемых намерений и убеждений человека |
| Планирование и коммуникация | Observer-aware planning, model reconciliation, decision-theoretic communication | Связывание выводов с действиями, объяснениями и обменом информацией |
| Совместное действие | Shared autonomy, argumentation, cooperative inverse reinforcement learning | Учет эволюционирующих знаний и ожиданий человека в реальном времени |
Ключевые авторы
Работа выполнена группой из 10 ведущих исследователей, включая Reuth Mirsky, Sarath Sreedharan, Peter Stone и Stylianos Loukas Vasileiou. Их консенсус заключается в том, что прогресс в области Human-Agent Systems требует рассмотрения взаимодействия как непрерывной задачи принятия решений, где неопределенность и взаимозависимость являются фундаментальными условиями, а не побочными эффектами.
Значение для индустрии
Отчет служит дорожной картой для разработчиков агентов. Внедрение этих теоретических основ позволит создать системы, которые не просто выполняют команды, но и адаптируются к контексту, предвосхищают потребности пользователя и объясняют свои действия, что критически важно для внедрения ИИ в медицину, образование и управление сложными процессами.
Источник: arXiv cs.AI ↗
