rogeriochaves/litechain

Что это за инструмент

LangStream (ранее LiteChain) — это легковесная альтернатива LangChain для создания LLM-приложений, построенная на концепции композиционных потоков (Streams). Инструмент предлагает минималистичное ядро с полной типизацией и асинхронной обработкой.

Зачем нужен

Инструмент решает проблему избыточности и сложности больших фреймворков, предлагая простой способ сборки сложных LLM-пайплайнов. Он полезен тем, кто ценит предсказуемость, безопасность типов и возможность легко комбинировать LLM с другими компонентами через функциональные абстракции.

Что можно реализовать

• Создание чат-ботов с кастомной логикой обработки промптов (например, принудительный ответ только эмодзи).
• Построение цепочек обработки текста, где вывод одной LLM-стримы становится входом для другой (например, генерация эмодзи с последующим переводом в текст).
• Разработка асинхронных приложений с потоковой передачей токенов (streaming) от LLM к клиенту.
• Сборка сложных конвейеров с использованием функциональных методов: map, collect, join, gather.

Ключевые возможности

• Концепция 'Streams all the way down': любой компонент (LLM, парсер, группа стримов) является Stream.
• Полная статическая типизация входных и выходных данных стримов, что помогает избегать ошибок совместимости на этапе разработки.
• Асинхронная архитектура на базе Python AsyncGenerator для эффективной работы с потоками токенов.
• Минималистичный API с небольшим набором функций композиции (and_then, map, collect), знакомых разработчикам функционального программирования.
• Легковесность: фокус на небольшом ядре, а не на множестве готовых классов и абстракций.

👤 Кому подойдёт: Python-разработчики, предпочитающие минимализм и строгую типизацию, а также те, кто хочет избежать сложности и избыточности крупных фреймворков типа LangChain.