Проблема enforceability (принудительного исполнения)
Вопрос о том, можно ли технически и политически остановить гонку вооружений в сфере ИИ, часто сводится к спору о политической воле. Однако новая работа Раймонда Купмансхапа и Отто Бартена («How to Catch a GPU: A Taxonomy of Verification and Enforcement Mechanisms for International AI Agreements») предлагает количественный подход. Авторы доказывают, что enforceability (возможность принудительного исполнения соглашения) имеет четкий «порог срыва» (breakdown point).
Проблема разделения на три подзадачи:
- Prevent escape: предотвращение ухода от контроля режима.
- Prevent uncontrolled resource acquisition: предотвращение неконтролируемого приобретения ресурсов.
- Detect hidden capacity: обнаружение скрытых вычислительных мощностей.
Именно третья подзадача — обнаружение скрытых мощностей — определяет предел, до которого пауза может быть эффективной.
Ключевая метрика: 10k H100
Авторы устанавливают, что без активного сокрытия данных (active concealment) порог срыва находится на уровне примерно 10 000 эквивалентов GPU H100. Это означает, что международная пауза или соглашение будут работать, если для обучения модели требуется более 10 000 таких чипов. Если же разработчики смогут уместить обучение в меньший объем, контроль станет невозможным.
Важное уточнение: активное сокрытие данных (concealment) может снизить этот порог, сделав нарушение договора более вероятным даже при больших объемах вычислений.
Анализ механизмов верификации
В работе исследованы восемь предложений по созданию «аварийного выключателя» (off switch) и верификации договоров. Ниже приведена сводная таблица с оценкой эффективности этих мер в контексте обнаружения скрытых мощностей (detect hidden capacity).
| Механизм верификации | Суть предложения | Оценка эффективности (Breakdown Point) |
|---|---|---|
| Hardware Auditing | Физический аудит и маркировка чипов | Высокая (требует глобального контроля цепочек поставок) |
| Energy Monitoring | Мониторинг потребления энергии дата-центров | Средняя (зависит от точности данных от провайдеров) |
| Software Provenance | Отслеживание происхождения кода и моделей | Низкая/Средняя (легко обойти через форки) |
| Whistleblower Incentives | Система вознаграждений за информирование | Зависит от культуры безопасности в компаниях |
Почему это важно?
Эта работа переводит дискуссию из плоскости абстрактных страхов в плоскость инженерных и политических решений. Если текущие тренды показывают, что размер моделей растет, то порог в 10k H100 может быть достигнут в ближайшие годы. Это создает временное окно, в котором международное регулирование еще технически выполнимо. Однако, как только модели станут эффективнее (или начнется массовое сокрытие мощностей), этот механизм перестанет работать.
Полный текст исследования доступен на arXiv: 2607.22619.
Источник: LessWrong ↗