dreadnode/rigging

Что это за инструмент

Rigging — это легковесная библиотека для Python, упрощающая интеграцию LLM в production-код через декораторы и асинхронные конвейеры.

Зачем нужен

Инструмент решает задачу унификации работы с разными LLM (OpenAI, Anthropic, локальные модели) и структурирования их вывода. Он полезен для разработчиков, которым нужно быстро создавать надежные агенты и пайплайны с поддержкой Pydantic-валидации, трассировки и батчинга.

Что можно реализовать

• Создание агентов с доступом к инструментам (tool use) и внешним API
• Построение RAG-пайплайнов и систем с контекстным чатом
• Массовая генерация текста с использованием async batching для высокой производительности
• Декомпозиция сложных задач на цепочки вызовов LLM с валидацией структурных данных

Ключевые возможности

• Поддержка LiteLLM, vLLM и transformers для работы с любым LLM
• Определение промптов как Python-функций с type hints и docstrings
• Встроенная трассировка через Logfire и поддержка callback-ов
• Управление моделями через простые connection strings
• Асинхронная архитектура и Pydantic-валидация вывода

👤 Кому подойдёт: Python-разработчики, инженеры по машинному обучению и архитекторы AI-систем, строящие production-ready решения на базе LLM