srush/MiniChain

Мини-библиотека для работы с LLM.

Инструменты⭐ 1 232Pythonпоследний релиз: v0.2
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

MiniChain — это легковесная библиотека для Python, позволяющая создавать цепочки вызовов больших языковых моделей (LLM) через аннотирование функций.

Зачем нужен

Инструмент решает задачу упрощения разработки LLM-приложений, предлагая альтернативу тяжелым фреймворкам вроде LangChain. Он полезен для быстрого прототипирования, отладки и визуализации графов вызовов моделей, отделяя логику промптов от кода.

Что можно реализовать

  • Реализация Chain-of-Thought и PAL (Program-Aided Language) для решения математических задач
  • Создание систем RAG (Retrieval-Augmented QA) и извлечения информации (Information Extraction)
  • Построение чат-ботов с памятью и контекстом диалога
  • Использование Self-Ask для поиска и дополнения запросов

Ключевые возможности

  • Аннотирование функций декоратором @prompt для вызова LLM с поддержкой Jinja-шаблонов
  • Ленивые вычисления (lazy evaluation) и построение графа вызовов для отладки
  • Встроенная визуализация цепочек через Gradio с помощью функции show().launch()
  • Поддержка различных бэкендов: OpenAI, Hugging Face, Google Search, Python, Bash, Manifest-ML
  • Минималистичный дизайн: фокус только на цепочках промптов без избыточного функционала

👤 Кому подойдёт: Разработчики и исследователи, которым нужен легкий и понятный инструмент для экспериментов с LLM, отладки промптов и создания прототипов без перегрузки сложными фреймворками.

Релизы