Проблема доверия к AI-ройству
Представьте сценарий, в котором все вычислительные мощности захвачены AI-ройством. Вы не можете доверять результатам, так как ИИ контролирует экраны и может подделать вывод. Стандартные методы, такие как zkSNARKs, эффективны, но требуют автоматизированной проверки, что исключает человеческий фактор. Автор предлагает решение: Nullius in pixella — метод, позволяющий человеку визуально проверить корректность выполнения программы, используя только бумагу, ножницы и свет.
Механика: от логических вентилей к перфорации
Программа преобразуется в логическую схему (circuit), состоящую из вентилей (AND, XOR, NOT). Каждая ячейка в сетке схемы кодирует значение бита: левая половина клетки пробивается для 0, правая — для 1. Получается стопка листов с дырками. Чтобы проверить вычисления, листы накладываются друг на друга со сдвигом. Если вентиль работает корректно, свет не должен проходить сквозь места, где логика нарушена. Например, для вентиля AND проверяются три ошибки: «вход 0, выход 1», «вход 0, выход 1» и «входы 1,1, выход 0».
Ключевые метрики и применимость
Метод позволяет проверять вычисления в масштабах, доступных человеку, за счет параллельной проверки множества вентилей одного типа. Автор демонстрирует возможность верификации 32-битного умножения и широко используемых криптографических хеш-функций. Ключевое преимущество — отсутствие необходимости в доверенном вычислительном устройстве на этапе проверки; верификация происходит «на глаз» через просвет.
| Параметр | Значение / Описание |
|---|---|
| Тип верификации | Визуальная, человеческая (human-scale) |
| Базовая структура | Логические схемы (circuits) с вентилями AND, XOR, NOT |
| Механизм проверки | Наложение перфорированных листов со сдвигом (offsets) |
| Демонстрационный пример | Полная 32-битная схема умножения |
| Применимость | Криптографические хеш-функции, проверка подписей |
| Требования к ресурсам | Бумага, источник света, время человека (без ПК) |
Почему это важно для безопасности
Этот подход открывает путь к zero-trust вычислениям в условиях, когда инфраструктура полностью скомпрометирована. Если вы можете физически проверить trace (трассу выполнения) программы, используя только оптические свойства бумаги, вы устраняете риск подмены данных на экране. Это создает новый класс протоколов доверия, где безопасность основана не на сложности вычислений, а на физической невозможности скрыть ошибку в перфорации при внимательном осмотре.
Источник: LessWrong ↗
