В мире искусственного интеллекта, где гонка за производительностью часто сводится к бесконечному увеличению размера моделей и вычислительных ресурсов, IBM Research предлагает элегантное и радикально иное решение. Их новая методика ALTK-Evolve демонстрирует, что для достижения выдающихся результатов в сложных сценариях клиентской поддержки не обязательно нужны самые передовые (frontier) модели или дорогостоящее дообучение (fine-tuning). Вместо этого исследователи предлагают использовать «обучаемую память» — набор динамически генерируемых правил, которые агент извлекает из собственного опыта работы.
Этот подход позволяет базовым моделям, таким как GPT-4.1, достигать показателей, превосходящих многие решения в своей категории, на авторитетном бенчмарке τ²-bench. Ключевой инсайт заключается в том, что надежность агента зависит не только от его «интеллекта», но и от способности строго следовать доменным политикам, которые можно формализовать в виде кратких поведенческих инструкций. В этой статье мы подробно разберем, как работает ALTK-Evolve, почему «обучаемая память» эффективнее статических промптов и что это значит для будущего разработки AI-агентов в корпоративном секторе.
01Проблема надежности в клиентской поддержке
Задача автоматизации клиентской поддержки кажется простой на первый взгляд: пользователь задает вопрос, бот отвечает. Однако в реальности это сложная многошаговая задача, требующая соблюдения строгих корпоративных политик. Агент должен не только понять намерение пользователя, но и выполнить серию действий через API (например, оформить возврат, изменить адрес доставки или перенести рейс), не нарушая при этом бизнес-правил.
Стандартные подходы, основанные на больших языковых моделях (LLM), часто страдают от нестабильности. Модель может «галлюцинировать», пропустить важный шаг в политике или выполнить действие в неправильном порядке. Традиционное решение — дообучение модели на специфических данных. Но этот метод дорог, требует разметки данных экспертами и, что самое важное, плохо переносится на новые домены. Если вы обучили агента для розничной торговли, его нельзя просто так применить к авиакомпаниям без переобучения.
IBM Research предлагает альтернативу: вместо изменения весов модели (что требует ресурсов GPU и времени), они изменяют контекст, в котором работает модель. Они используют метод, называемый ALTK-Evolve, который позволяет агенту «учиться» на своих ошибках и успехах в реальном времени, создавая собственную книгу правил (playbook). Этот процесс полностью автоматизирован и не требует участия человека.
02Что такое τ²-bench и почему он важен?
Для оценки своих разработок IBM использует τ²-bench (Tau-Two Benchmark), разработанный компанией Sierra. Это один из самых строгих и реалистичных бенчмарков для тестирования AI-агентов в сфере клиентского обслуживания. В отличие от простых QA-датасетов, τ²-bench симулирует полноценный диалог между агентом и клиентом.
Каждое задание в бенчмарке включает:
- Симулированного клиента: LLM, которая действует от имени пользователя с конкретной целью (например, вернуть товар, изменить билет).
- Доменные инструменты: Набор API-функций, с которыми должен взаимодействовать агент (поиск заказа, issuance refund, rebooking).
- Документацию политики: Текстовый документ, содержащий правила компании, которые агент обязан соблюдать.
Задача агента — извлечь нужную информацию у клиента, следовать политике и выполнить правильные действия через инструменты. Успех измеряется бинарно: состояние базы данных после завершения диалога должно точно соответствовать ожидаемому результату. Если хотя бы одно действие выполнено неверно или нарушена политика, задача считается проваленной.
03Механика ALTK-Evolve: От ReAct к обучаемой памяти
В основе ALTK-Evolve лежит стандартный архитектурный паттерн ReAct (Reasoning + Acting). Агент работает в цикле «Думай → Действуй» (THINK → ACT). Однако ключевое отличие IBM заключается в том, как формируется системный промпт агента.
Обычно системный промпт статичен: он содержит инструкцию «Ты — агент поддержки» и саму политику компании. В ALTK-Evolve к этому блоку добавляется новый раздел: «Правила, извлеченные из прошлых попыток задач» (Guidelines learned from past task attempts). Эти правила генерируются той же самой моделью, которая работает как агент (в данном случае GPT-4.1), анализируя траектории выполнения задач на обучающем наборе данных.
Процесс выглядит следующим образом:
- Запуск: Агент пытается решить задачи на обучающем наборе (train set) с помощью стандартного ReAct-скелета.
- Анализ: Модель GPT-4.1 анализирует успешные и неудачные попытки. Она выявляет паттерны: где агент ошибся, где он забыл подтвердить действие, где он неправильно обработал имя пользователя.
- Дистилляция: На основе этого анализа модель генерирует краткие, четкие поведенческие правила. Например: «Всегда подтверждайте все изменения с пользователем перед выполнением действия, обновляющего базу данных» или «Разделяйте вызов инструмента и ответ пользователю в разные шаги».
- Применение: Эти правила добавляются в системный промпт агента. Теперь, когда агент переходит к тестовому набору (test set), он уже обладает «опытом» и знает, как избегать типичных ошибок.
Важно отметить, что веса модели не меняются. Вся «память» хранится в тексте промпта. Это делает метод масштабируемым и совместимым с любыми моделями, доступными через API.
You are a customer service agent that helps users according to the policy below.
Always follow the policy strictly. Use the provided tools when needed.
# Retail agent policy
As a retail agent, you can help users:
- cancel or modify pending orders
- return or exchange delivered orders
- modify their default user address
## Guidelines learned from past task attempts (follow these carefully):
- Authenticate the user before taking any order-related action. If email is unavailable, verify identity via full name and zip code using the find_user_id_by_name_zip API.
- Always confirm all intended changes (modify, cancel, return, exchange) with a clear, structured summary, and require explicit user approval before executing any database-updating action.
- When processing a return or exchange, communicate the refund with an itemized breakdown and clarify refund timing — don't wait foИсточник: Hugging Face ↗