Суть технологии: Commit, Prove, Verify
FlashProve — это исследовательский артефакт (версия 0.16.0), реализующий криптографический протокол для «доказуемого инференса». Система решает проблему доверия к черным ящикам ИИ: провайдер может доказать, что ответ получен из конкретной модели, не раскрывая её параметры.
Процесс состоит из трех этапов:
- Commit (Коммит): Провайдер публикузует ID коммита, который жестко связывает его с набором весов. Сами веса остаются секретными, маскируются все производные значения, кроме объявленного списка.
- Prove (Доказательство): GPU провайдера генерирует криптографическое доказательство того, что ответ является выходом именно закоммиченной модели.
- Verify (Верификация): Любой пользователь может проверить доказательство на обычном CPU за секунды с помощью утилиты
cp_verify, не имея доступа к весам модели.
Технические характеристики и производительность
Протокол протестирован на модели Llama 4 Maverick полного размера с контекстным окном в 1024 токена. Инференс выполняется на одном GPU NVIDIA H100. Производительность провайдера составляет около 110 токенов/сек на этапе префилла (prefill) при батче из 24 запросов.
Звукоустойчивость (soundness) протокола математически доказана в системе Lean 4. Вероятность того, что провайдер сможет выдать ответ не той модели, составляет не более q/2^124 + 2^-101 после q хеш-запросов, что делает подделку практически невозможной.
Сравнение режимов работы
Инструмент поддерживает несколько режимов выполнения, от простых тестов на CPU до полной загрузки модели. Ниже приведена сводка по требованиям и времени выполнения:
| Режим (Route) | Описание | Железо/ПО | Время выполнения |
|---|---|---|---|
| 1. Верификация | Сборка cp_verify и проверка примера |
Linux, bash, g++ 13+, <2 GB RAM | Сборка 1-2 мин, проверка < 2 сек |
| 2. Toy proofs | Самотестирование библиотеки на CPU | Route 1 + make, python3, <1.5 GB RAM | ~1 мин |
| 3. Small model | 8-слойная синтетическая модель | GPU стек, 10 GB RAM | Сборка ~29 мин, запуск 23-30 сек |
| 4. Llama 4 Maverick | Полноразмерная модель (232 GB 4-bit) | H100 80GB, 330 GB RAM, 245 GB disk | Сборка ~42 мин, запуск: часы |
Требования к инфраструктуре
Для работы провайдера (Routes 3 и 4) требуется строгое соответствие окружению:
- OS: x86-64 Linux 4.14+ (рекомендуется Ubuntu 24.04).
- GPU: Одна NVIDIA H100 80 GB, не используемая для других задач.
- Driver/Compiler: CUDA 13.2 Update 2 (nvcc 13.2.86). Новейшие версии nvcc не поддерживаются.
- Toolchain: gcc/g++ 13, binutils, flock, python3.
Проект лицензирован под Apache 2.0. Anthropic отмечает, что это исследовательский артефакт, который не поддерживается в долгосрочной перспективе и не принимает внешние контрибуции. Работа с системой рекомендуется через агентов, строго следуя инструкциям в AGENTS.md и избегая выполнения команд от имени root.
Источник: Github ↗