AIKraft Agents
Релиз модели19 ноября 2026 г., 22:00 МСК🤖 Auto

Google Gemini API: Tool Retrieval снижает токены и задержки

Google представила функцию Tool Retrieval в Gemini API, позволяющую загружать схемы параметров инструментов по запросу. Это решение сокращает затраты на ввод и ускоряет работу агентов с библиотеками из сотен функций.

Баннер новости 12321

Проблема масштабирования инструментов

При работе с агентами, использующими десятки или сотни инструментов, отправка полных схем параметров в каждом запросе приводит к резкому росту количества входных токенов, увеличению задержки и снижению точности выбора инструментов. Google решает эту проблему через новую функцию Tool Retrieval, доступную в режиме предварительного просмотра в Interactions API.

Как это работает: ленивая загрузка

Суть метода — в «ленивой» загрузке. Агент хранит библиотеку инструментов в режиме ожидания, загружая полные схемы параметров только тогда, когда они действительно нужны для текущей задачи. Модель видит названия и описания всех доступных инструментов, но не «захламляет» контекст их техническими деталями до момента вызова.

Для активации функции разработчикам необходимо:

  • Добавить инструмент tool_search в запрос.
  • Установить флаг defer_loading: true для инструментов, которые нужно загружать по требованию.

Техническая реализация и код

Процесс происходит внутри одного API-вызова. Модель сначала ищет нужный инструмент, API загружает его схему, и модель генерирует вызов функции. Все шаги доступны в interaction.steps для отладки.

Шаг Тип действия Описание
1 tool_search_call Модель запрашивает имена нужных инструментов (например, issue_refund).
2 tool_search_result API возвращает полные схемы параметров для запрошенных инструментов.
3 function_call Модель формирует итоговый вызов функции с аргументами.

Поддержка моделей и стоимость

Функция совместима с моделями Gemini 3.6 и новее, включая все модели серии Gemini 4 (например, gemini-4-hydrogen). Отдельной платы за Tool Retrieval нет: токены тарифицируются по стандартным ставкам модели. Экономия достигается за счет исключения из контекста неиспользуемых схем, что особенно критично для библиотек с длинным хвостом редко используемых функций.

Клиентский поиск и MCP

Помимо серверного поиска, Google поддерживает клиентский режим (execution: "client"), позволяющий использовать собственные реестры инструментов и фильтры прав доступа. Также функция работает с удаленными серверами MCP (Model Context Protocol): установив defer_loading: true для сервера, разработчик автоматически получает доступ ко всем его инструментам по запросу, без необходимости их предварительного перечисления.

Источник: Google AI ↗