0xPlaygrounds/rig

⚙️🦀 Создавайте модульные и масштабируемые LLM-приложения на Rust

Агенты⭐ 8 686Rustпоследний релиз: v0.42.0
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

Rig — это библиотека на Rust для создания масштабируемых и модульных приложений с использованием LLM, предоставляющая единый интерфейс для работы с моделями и векторными хранилищами.

Зачем нужен

Инструмент решает задачу абстракции от множества провайдеров LLM и векторных баз данных, позволяя разработчикам интегрировать AI-функционал с минимальным количеством boilerplate-кода. Он полезен для построения сложных агентов, поддерживающих многопоточный стриминг, и обеспечивает полную совместимость с OpenTelemetry GenAI Semantic Convention для трассировки.

Что можно реализовать

  • Создание agentic workflows с поддержкой многопоточного стриминга и промптинга
  • Построение систем RAG с использованием 10+ интеграций векторных хранилищ
  • Разработка приложений, работающих с транскрипцией, аудио и генерацией изображений
  • Запуск LLM-приложений в браузере благодаря поддержке WASM (core library)

Ключевые возможности

  • Единый интерфейс для 20+ провайдеров LLM и 10+ векторных хранилищ
  • Полная поддержка LLM completion и embedding workflow
  • Нативная поддержка WASM для работы в браузере
  • Совместимость с OpenTelemetry GenAI Semantic Convention
  • Минимальный boilerplate при интеграции LLM в приложение

👤 Кому подойдёт: Разработчики на Rust, создающие масштабируемые AI-приложения, агентов и системы с поиском по векторным базам данных

Релизы

v0.42.0majorbreaking
🕐 1 мес назад · релиз на GitHub ↗

Добавлен провайдер Venice AI, поддержка строгих инструментов в Anthropic и новые метаданные для агентов.

  • Added: Добавлен провайдер Venice AI с полной поддержкой записи.
  • Added: Anthropic: поддержка строгого использования инструментов (strict tool use).
  • Added: Cohere: добавлена поддержка эмбеддингов изображений.
  • Breaking: Агенты: экспортированы метаданные завершения хода модели в хуки.
  • Fixed: Исправлены множественные ошибки в провайдерах OpenAI, Mistral, Gemini и Bedrock.
v0.41.0majorbreaking
🕐 1 мес назад · релиз на GitHub ↗

Крупный рефакторинг архитектуры: разделение core/agent, унификация клиентов и явная поддержка WASM.

  • Breaking: Разделение rig-core и rig-agent за единым фасадом, упрощение API клиентов и явное определение матрицы поддержки WASM.
  • Added: Добавлена поддержка моделей GPT-5.6, метаданных рассуждений OpenAI и хуков повторных попыток для агентов.
  • Added: Расширены возможности локального инференса через Candle и улучшена телеметрия с опциональной защитой чувствительных данных.
  • Fixed: Исправлена передача параметров в Ollama, добавлена поддержка PDF по URL в Anthropic и устранены ошибки в обработчиках инструментов.
v0.39.0majorbreaking
🕐 3 мес назад · релиз на GitHub ↗

Введение поддержки VoyageAI, ломающие изменения в регистрации инструментов и состоянии агента, а также исправления порядка данных.

  • Breaking: Агенты: без-IO машина состояний AgentRun, циклы агентов стали тонкими драйверами.
  • Breaking: Инструменты: детерминированная регистрация без дубликатов, изменена внутренняя структура ToolSet.
  • Added: Добавлена поддержка реранкинга через VoyageAI.
  • Fixed: Исправлен порядок истории рассуждений при потоковой генерации и порядок контекстных документов.
  • Added: Добавлен пример подсчёта токенов при разрывах потока в Gemini и поддержка генерации изображений Gemini Nano Banana.