axilla-io/ax

Фреймворк на TypeScript для разработки ИИ

Инструменты⭐ 1 121TypeScriptпоследний релиз: @axflow/models@0.0.25
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

Axflow — это TypeScript-фреймворк для разработки приложений на базе ИИ, предоставляющий набор модулей для работы с LLM, включая SDK, генерацию данных и оценку качества ответов.

Зачем нужен

Инструмент решает задачу создания надежных и масштабируемых приложений с поддержкой естественного языка, предлагая модульную архитектуру для постепенного внедрения компонентов. Он полезен разработчикам, которым нужен code-first подход для получения полного контроля над гибкостью и структурой AI-продуктов.

Что можно реализовать

  • Разработка веб-приложений с использованием React-хуков и утилит для потоковой передачи данных (streaming) от LLM
  • Подключение пользовательских данных к большим языковым моделям с помощью модуля axgen
  • Оценка качества выходных данных LLM через фреймворк axeval
  • Создание конвейеров обработки документов: загрузка, трансформация и чанкинг данных для векторного поиска (модуль extract)
  • Запуск и обслуживание LLM-моделей с настройкой аналитики, логирования и ограничения частоты запросов (модуль serve)

Ключевые возможности

  • Модульная архитектура: возможность постепенного внедрения отдельных пакетов (@axflow/models, axgen, axeval)
  • Code-first подход, обеспечивающий максимальную гибкость и контроль для разработчиков
  • Zero-dependency SDK в пакете models для легковесной интеграции
  • Поддержка потоковой передачи данных (streaming) и готовые React-хуки
  • MIT-лицензия, позволяющая свободно использовать инструмент в коммерческих проектах

👤 Кому подойдёт: разработчики (TypeScript/JavaScript), создающие сложные AI-приложения и требующие детального контроля над архитектурой решений

Релизы

@axflow/models@0.0.25minor
🕐 33 мес назад · релиз на GitHub ↗

Добавлен GoogleGenerateContent с поддержкой потоковой генерации и StreamToIterable для @axflow/models.

  • Added: Добавлен класс GoogleGenerateContent для работы с Google AI.
  • Added: Реализована потоковая генерация через метод .stream().
  • Added: Добавлен утилитный класс StreamToIterable для итерации по чанкам.