Проблема: Разрыв между доказательством и публикацией
В современных AI-системах возникает критическая уязвимость: доказательства, анализ, человеческое одобрение и история исправлений часто относятся к разным состояниям системы. Это позволяет создавать ложно авторитетные заявления. Авторы работы (Torsten Olivi Tiltack, Yifei Dong и др.) предлагают решение через концепцию Publication Authority — точечной, непередаваемой и одноразовой способности публикации.
Решение: Протокол PAC-2026 и SF-4
Основой системы стал PAC-2026 (Publication-Accountability Calculus) — машиночитаемый протокол, основанный на четвертом ограниченном семантическом замораживании (SF-4). SF-4 фиксирует профиль данных, позволяя заменять привязки, но сохраняя целостность истории. Протокол вводит шесть строгих обязательств:
- Доказательства, запуски и артефакты;
- Раскрытие метрик;
- Авторизация;
- Соответствие поверхности (reader surface);
- Непрерывность жизненного цикла.
Результаты тестирования: 110 000 состояний
Команда провела масштабную валидацию, исследуя 110 764 безопасных достижимых состояний в 10 моделях. Ключевые метрики безопасности:
| Метрика | Значение | Интерпретация |
|---|---|---|
| Исследованные состояния | 110 764 | Объем пространства поиска в 10 моделях |
| Небезопасные конфигурации | 76 | Выявлены как нарушения или контрмодели наблюдателя |
| Исторические прецеденты | 1717 | Воспроизведенные исходы авторизации |
| Тесты вслепую | 183 | Все ожидаемые результаты совпали |
Почему это важно
Система гарантирует, что «поверхность чтения» (то, что видит пользователь) не может авторизовать публикацию, если принятый рекорд не допускает этой поверхности. Это разделяет «горизонт доказательств» и время верификации, отклоняя аутентичные, но причинно недействительные авторизации. Важно отметить: протокол обеспечивает внутреннюю согласованность и безопасность, но не гарантирует фактическую истинность данных или их применимость в реальных условиях без дополнительных проверок.
Источник: arXiv cs.AI ↗