Проблема масштабирования инструментов
При работе с агентами, использующими десятки или сотни инструментов, отправка полных схем параметров в каждом запросе приводит к резкому росту количества входных токенов, увеличению задержки и снижению точности выбора инструментов. Google решает эту проблему через новую функцию Tool Retrieval, доступную в режиме предварительного просмотра в Interactions API.
Как это работает: ленивая загрузка
Суть метода — в «ленивой» загрузке. Агент хранит библиотеку инструментов в режиме ожидания, загружая полные схемы параметров только тогда, когда они действительно нужны для текущей задачи. Модель видит названия и описания всех доступных инструментов, но не «захламляет» контекст их техническими деталями до момента вызова.
Для активации функции разработчикам необходимо:
- Добавить инструмент
tool_searchв запрос. - Установить флаг
defer_loading: trueдля инструментов, которые нужно загружать по требованию.
Техническая реализация и код
Процесс происходит внутри одного API-вызова. Модель сначала ищет нужный инструмент, API загружает его схему, и модель генерирует вызов функции. Все шаги доступны в interaction.steps для отладки.
| Шаг | Тип действия | Описание |
|---|---|---|
| 1 | tool_search_call |
Модель запрашивает имена нужных инструментов (например, issue_refund). |
| 2 | tool_search_result |
API возвращает полные схемы параметров для запрошенных инструментов. |
| 3 | function_call |
Модель формирует итоговый вызов функции с аргументами. |
Поддержка моделей и стоимость
Функция совместима с моделями Gemini 3.6 и новее, включая все модели серии Gemini 4 (например, gemini-4-hydrogen). Отдельной платы за Tool Retrieval нет: токены тарифицируются по стандартным ставкам модели. Экономия достигается за счет исключения из контекста неиспользуемых схем, что особенно критично для библиотек с длинным хвостом редко используемых функций.
Клиентский поиск и MCP
Помимо серверного поиска, Google поддерживает клиентский режим (execution: "client"), позволяющий использовать собственные реестры инструментов и фильтры прав доступа. Также функция работает с удаленными серверами MCP (Model Context Protocol): установив defer_loading: true для сервера, разработчик автоматически получает доступ ко всем его инструментам по запросу, без необходимости их предварительного перечисления.
Источник: Google AI ↗
