Суть проблемы: как доказать, что ИИ не развивается?
Верификация международных соглашений о приостановке разработки ИИ требует не просто слов, а математически доказуемых данных о том, как используются вычислительные ресурсы. Традиционные методы контроля часто полагаются на доверенное оборудование (trusted hardware), что создает узкие места и риски цензуры. Предлагается альтернатива: криптографические протоколы, работающие в программной среде на уже установленных чипах, без необходимости аппаратного контроля каждого вычисления.
Что такое Proof of Useful Work (PoUW)?
В отличие от Bitcoin, где майнеры выполняют бессмысленные хеширования, PoUW использует полезные вычисления, такие как умножение матриц. Это позволяет GPU доказать, что он выполнил определенный объем работы. В контексте ИИ-договоренностей это означает возможность удаленно подтвердить, что чипы простаивают на «бесполезных» задачах во время экстренного прекращения разработки, или, в сочетании с доказательствами с нулевым разглашением (zero-knowledge proofs), что выполняются только заявленные инференс-задачи.
Существующие реализации и их ограничения
На данный момент существуют две основные конструкции PoUW, разработанные для разных форматов данных. Однако обе имеют существенные недостатки для применения в глобальных договорах:
| Схема | Разработчик | Формат данных | Статус верификации | Ключевые ограничения |
|---|---|---|---|---|
| Компьютерная алгебра | Komargodski и Weinstein | Конечные поля (матрицы) | Доказана нижняя граница работы | Покрытие только части работы честного провайдера; требует непоказанных предположений для реалистичных размеров матриц |
| AI-инференс | Pearl Research | FP8 (формат ИИ) | Только для NVIDIA | Требуется бит-точная модель арифметики чипа; гарантия основана на неформально сформулированных предположениях |
Технические барьеры для внедрения
Ключевая проблема PoUW заключается в зависимости от знаний о «железе». Протокол дает только нижнюю границу выполненной работы. Для договора этого недостаточно без:
- Доверенной оценки пиковой мощности чипов (чтобы исключить завышение объема работы).
- Способа привязки вычислений к конкретным заявленным чипам.
- Точной модели арифметики каждого типа GPU, так как реальная стоимость вычислений зависит от архитектуры.
Перспективы: ИИ для решения математических задач
Автор отмечает, что большинство открытых проблем в этой области носят математический характер. Это открывает путь для использования самого ИИ (AI-assisted research) для поиска новых криптографических конструкций, которые могли бы стать надежным стандартом для верификации ИИ-договоренностей в будущем.
Источник: LessWrong ↗