Проблема доверия и решение через zkSNARK
Сегодня пользователь, отправляющий запрос к AI-модели, не может быть уверен, что ответ пришел от заявленного провайдера, а не от подмененного сервиса или злоумышленника. Anthropic решает эту проблему с помощью FlashProve — системы на базе zkSNARK (zero-knowledge succinct argument of knowledge). Эта технология позволяет провайдеру создать короткое криптографическое доказательство, которое пользователь может быстро проверить на CPU, не раскрывая при этом веса модели.
Ключевые метрики производительности
Anthropic демонстрирует значительный прогресс в скорости генерации доказательств. В тестах на модели Llama 4 Maverick (400B параметров, смесь экспертов, 4-битная квантованная точность) система показала следующие результаты на одном GPU NVIDIA H100:
| Параметр | Значение / Характеристика |
|---|---|
| Модель | Llama 4 Maverick (400B MoE, 4-bit quantized) |
| Скорость генерации доказательств | ~110 токенов/сек |
| Размер доказательства | ~19 МБ на 1024 токена запроса |
| Относительная нагрузка на GPU | В 70–95 раз больше времени, чем сам инференс через vLLM |
| Лицензия кода | Apache 2.0 |
Это делает систему на порядки быстрее предыдущих открытых решений, хотя и требует существенных вычислительных ресурсов по сравнению с обычным запуском модели.
Формальная верификация и безопасность
Чтобы исключить ошибки в сложных криптографических вычислениях, Anthropic не полагается только на оптимизации. Команда предоставила формальные доказательства на языке Lean для основных утверждений о безопасности. Также выпущены два верификатора: быстрый на C++ и верифицируемый на Lean. Все артефакты, включая код, спецификации протокола и визуализатор теорем, опубликованы под лицензией Apache 2.0.
Значение для индустрии
FlashProve открывает путь к новым сценариям использования:
- Аудит и регуляция: Регуляторы могут проверять, что провайдеры не используют скрытые ресурсы для обучения новых моделей, а занимаются только инференсом.
- Защита от подмены: Клиенты, использующие роутинговые сервисы, могут гарантировать, что платят именно за ту модель, которую заказали.
- Доверие потребителей: Пользователи смогут криптографически подтверждать целостность ответов, исключая манипуляции со стороны провайдера или атакующих.
Anthropic подчеркивает, что это промежуточный результат, открытый для сообщества с целью дальнейшей оптимизации и развития технологии доказуемого инференса.
Источник: Anthropic ↗