От «черного ящика» к когнитивной архитектуре
Лауреат премии Тьюринга 2007 года Иероним Сифакис (Joseph Sifakis) в статье, опубликованной в arXiv 11 сентября 2026 года, предлагает фундаментальный сдвиг в парадигме разработки искусственного интеллекта. Автор утверждает, что автономные системы — это высшая стадия развития AI, но их создание требует отказа от монолитных подходов. Ключевая идея: для достижения подлинной автономности необходимо объединить коннексистский AI (нейросети, работающие с сенсорными данными) и символьный AI (логика, планирование, память).
Сифакис предлагает общую архитектуру агента, где поведение формируется как композиция когнитивных функций. Эти функции опираются на долгосрочную память, содержащую эволюционирующие знания агента. Это позволяет системе не просто реагировать на стимулы, но и строить осмысленные планы действий.
Три столпа новой архитектуры
В работе выделяются три критических технических вызова, которые должна решить новая архитектура для перехода от прототипов к надежным автономным системам:
- Связь данных и памяти: Преобразование неструктурированных сенсорных данных в структурированные знания, хранимые в памяти агента.
- Принятие решений: Механизмы планирования, направленные на достижение конкретных целей агента, а не просто оптимизацию функции потерь.
- Коллективный интеллект: Координация множества агентов для объединения индивидуальных способностей в коллективную эффективность.
Новое определение доверия к ИИ
Один из самых важных тезисов статьи касается понятия trustworthiness (надежности/доверия). Сифакис подчеркивает, что для автономных систем надежность не ограничивается поведенческими свойствами (например, «агент не нанес вред»). Она включает когнитивное измерение: валидность решений зависит от того, как агент использует свои знания. Если база знаний устарела или логика вывода ошибочна, даже «безопасное» поведение может быть некорректным в долгосрочной перспективе.
Разрыв между теорией и практикой
Несмотря на амбициозность концепции, автор проводит критическую оценку текущего состояния дел. Существует существенный разрыв между видением автономных мультиагентных систем и реальными достижениями в области AI. Представленная архитектура служит дорожной картой для устранения этого разрыва, требуя интеграции методов системной инженерии с передовыми алгоритмами машинного обучения.
| Аспект | Традиционный AI (Коннексистский) | Архитектура Сифакиса (Гибридная) |
|---|---|---|
| Основа | Нейронные сети, статистика | Симбиоз нейросетей и символьной логики |
| Память | Веса модели (часто непрозрачны) | Структурированная долгосрочная память знаний |
| Надежность | Статистическая точность | Когнитивная валидность + поведенческая безопасность |
| Цель | Решение задачи (classification/regression) | Достижение целей агента в динамической среде |
Источник: arXiv cs.AI ↗