AIKraft Agents
Исследования14 ноября 2026 г., 10:18 МСК🤖 Auto

Human-Agent Systems: 10 экспертов о вызовах ИИ-агентов

В отчете AAMAS 2026 года описана архитектура взаимодействия людей и ИИ-агентов, где ключевыми становятся Theory of Mind и совместное принятие решений.

Баннер новости 11919

От автономии к партнерству

ИИ-системы переходят от выполнения изолированных задач к длительному взаимодействию с людьми. Исследователи подчеркивают, что эффективность агентов теперь зависит не только от вычислительной мощности, но и от способности понимать человеческие перспективы, координировать互补 capabilities и поддерживать продуктивные отношения в социально-технических средах.

Два столпа взаимодействия

Авторы структурируют подходы вокруг двух взаимосвязанных проблем: понимания других и принятия решений о том, как с ними взаимодействовать. Это требует перехода от статических моделей к динамическим, учитывающим неопределенность и конфликтующие цели.

Технологический стек

Для реализации этих концепций сообщество AAMAS выделяет конкретные вычислительные методы. Ниже приведена классификация подходов, используемых для создания «понимающих» агентов:

Категория Методы и технологии Цель применения
Представление ментальных состояний Theory of Mind, BDI-архитектуры, обратное планирование Инференция частично наблюдаемых намерений и убеждений человека
Планирование и коммуникация Observer-aware planning, model reconciliation, decision-theoretic communication Связывание выводов с действиями, объяснениями и обменом информацией
Совместное действие Shared autonomy, argumentation, cooperative inverse reinforcement learning Учет эволюционирующих знаний и ожиданий человека в реальном времени

Ключевые авторы

Работа выполнена группой из 10 ведущих исследователей, включая Reuth Mirsky, Sarath Sreedharan, Peter Stone и Stylianos Loukas Vasileiou. Их консенсус заключается в том, что прогресс в области Human-Agent Systems требует рассмотрения взаимодействия как непрерывной задачи принятия решений, где неопределенность и взаимозависимость являются фундаментальными условиями, а не побочными эффектами.

Значение для индустрии

Отчет служит дорожной картой для разработчиков агентов. Внедрение этих теоретических основ позволит создать системы, которые не просто выполняют команды, но и адаптируются к контексту, предвосхищают потребности пользователя и объясняют свои действия, что критически важно для внедрения ИИ в медицину, образование и управление сложными процессами.

Источник: arXiv cs.AI ↗