Проблема фрагментации LLM
Разработка AI-агентов часто упирается в жесткую привязку к конкретному провайдеру (OpenAI, Anthropic, Google). Смена модели требует переписывания логики инициализации клиента. Google ADK, фреймворк для создания агентов, теперь решает эту проблему через интеграцию с LiteLLM — универсальным шлюзом для LLM.
Решение: One-Line Abstraction
Ключевое преимущество новой интеграции — абстракция на уровне одной строки кода. Разработчики могут определить модель, которую будет использовать агент, просто изменив строку конфигурации, не трогая бизнес-логику агента. Это критически важно для A/B-тестирования моделей и оптимизации затрат.
Техническая реализация
Интеграция работает через стандартный интерфейс LiteLLM, который унифицирует API разных провайдеров. В коде Google ADK это выглядит как передача параметра модели в конструктор агента или через конфигурационный файл. Поддерживаются основные модели:
- Google: Gemini Pro, Gemini Ultra
- OpenAI: GPT-4o, GPT-4 Turbo
- Anthropic: Claude 3.5 Sonnet, Claude 3 Opus
- Meta: Llama 3 (через Hugging Face или локальные серверы)
Почему это важно для индустрии
До появления этой связки разработчикам приходилось писать адаптеры для каждого провайдера. Теперь Google ADK становится «провайдер-агностичным» фреймворком. Это снижает порог входа для enterprise-решений, где требуется гибкость в выборе моделей под разные задачи (например, дешевая модель для черновиков, дорогая — для финального анализа).
Как начать
Для использования необходимо установить пакеты google-adk и litellm. В коде инициализации агента достаточно передать имя модели в формате LiteLLM (например, anthropic/claude-3-5-sonnet-20241022 или openai/gpt-4o). Документация и примеры кода доступны в репозитории GitHub, упомянутом в исходной публикации.
Источник: Towards AI pub ↗