ThousandBirdsInc/chidori

Что это за инструмент

Chidori — это фреймворк для создания AI-агентов, где каждый запуск по умолчанию является долговечным, воспроизводимым и возобновляемым.

Зачем нужен

Инструмент решает проблему недетерминированности и высокой стоимости отладки LLM-агентов, позволяя записывать все побочные эффекты (LLM-вызовы, HTTP-запросы) в журнал. Это дает возможность воспроизводить сценарии с нулевой стоимостью токенов, переживать сбои процессов и приостанавливать выполнение для ожидания действий человека без удержания ресурсов.

Что можно реализовать

• Отладка сложных многошаговых агентов через воспроизведение записанных сессий (replay) без повторных вызовов LLM
• Создание интеграционных тестов для агентов с использованием сохраненных чекпоинтов (checkpoints) в Git
• Реализация долгосрочных рабочих процессов с паузами для человеческого одобрения (human-in-the-loop)
• Обеспечение отказоустойчивости агентов при сбоях процессов за счет автоматического восстановления из чекпоинтов

Ключевые возможности

• Полная воспроизводимость: replay-запуски дают идентичный результат и стоят 0 токенов благодаря записи host calls
• Простой код: агенты пишутся на обычном async TypeScript без DSL или графовых описаний
• Встроенное кэширование промптов: автоматическая маркировка стабильных префиксов для оптимизации затрат
• Отсутствие зависимостей: работает на одном Rust-бинарнике с встроенным JS-движком, не требуя Node.js или V8
• Долговечность по умолчанию: каждый await chidori.* является точкой сохранения (safepoint) для чекпоинтов

👤 Кому подойдёт: Разработчики AI-агентов и инженеры по машинному обучению, которым важна надежность, воспроизводимость и контроль над затратами на LLM-вызовы