apache/apisix

Что это за инструмент

Apache APISIX — это высокопроизводительный шлюз API и AI Gateway с открытым исходным кодом, поддерживающий облачные технологии и работу в Kubernetes.

Зачем нужен

Инструмент управляет трафиком (north-south и east-west), обеспечивая маршрутизацию, балансировку, аутентификацию и безопасность. Он также выступает как AI Gateway для проксирования запросов к LLM, управления токенами и интеграции с MCP-серверами.

Что можно реализовать

• Настройка AI Gateway для проксирования запросов к LLM с балансировкой нагрузки, ретраями и токено-ориентированным ограничением скорости (rate limiting).
• Использование плагина mcp-bridge для преобразования stdio-based MCP серверов в масштабируемые HTTP SSE сервисы.
• Организация canary release, blue-green деплоя и A/B тестирования для микросервисов без перезагрузки шлюза.
• Проксирование и трансформация трафика различных протоколов: gRPC, gRPC Web, MQTT, Dubbo, WebSocket и HTTP/3 (QUIC).
• Работа в качестве k8s ingress controller для управления входящим трафиком в Kubernetes-кластерах.

Ключевые возможности

• Полная динамичность: горячее обновление конфигураций и плагинов без перезапуска (hot updates).
• Мультипротокольность: поддержка TCP/UDP, gRPC, MQTT, Dubbo, WebSocket, HTTP/3 и других.
• Cloud-Native архитектура: работает на bare-metal и в Kubernetes, поддержка ARM64, отсутствие вендорной блокировки.
• Встроенные функции безопасности и мониторинга: аутентификация, защита от атак, метрики и observability.
• Гибкая маршрутизация: динамическая балансировка (round-robin, hash), health checks и переписывание запросов/ответов.

👤 Кому подойдёт: DevOps-инженеры, архитекторы микросервисов, разработчики, внедряющие AI-агенты и LLM, а также команды, управляющие Kubernetes-инфраструктурой.