Суть предложения: VCAD и перераспределение
Команда исследователей, стоящая за проектом pacing-ai.com, представила конкретный механизм сдерживания развития искусственного интеллекта. Предложение состоит из двух ключевых компонентов:
- VCAD (Verified Compute Allocation Disclosures): Обязательная публикация данных об использовании вычислительных мощностей, проверяемая независимыми аудиторами.
- Reallocation: Целенаправленное перераспределение вычислительных ресурсов. Часть мощностей, идущих на исследования возможностей (Capabilities R&D), должна быть переключена на обслуживание клиентов и исследования безопасности (Non-Capabilities R&D).
Метрика и прогноз: 15% кап и задержка на 1 год
Авторы приводят конкретные цифры. При введении ограничения в 15% (кап на долю вычислений для R&D) с начала января 2027 года, можно отложить наступление «взрыва интеллекта» (intelligence explosion) примерно на один год.
Важно отметить: авторы признают, что эта задержка, вероятно, недостаточна для полного предотвращения сценария «захвата ИИ» (AI takeover) или решения всех проблем, связанных с самовоспроизводящимся интеллектом (RSI). Однако этот год критически важен для внедрения более устойчивых политических режимов, таких как Plan A или Plan S.
Как работает система учета: 3 шага
Процесс внедрения VCAD включает три этапа:
- Логирование (Logging): Создание базы данных всех рабочих нагрузок в GPU-часах. Все мощности приводятся к единому стандарту (например, «эквивалент H100»).
- Классификация (Classification): Разделение задач на категории с помощью ИИ-классификаторов и ручной проверки. Ключевое разделение: Capabilities R&D (улучшение алгоритмов, генерация данных, обучение моделей) против Non-Capabilities (безопасность, обслуживание клиентов).
- Раскрытие (Disclosure): Публичная отчетность каждые две недели с указанием ошибок аудита и списком случайных проектов.
Категории вычислений и риски
Система требует прозрачного разделения ресурсов. Ниже приведена структура категорий, которые должны декларироваться компаниями:
| Категория | Описание | Относится к R&D? |
|---|---|---|
| Serving Customers | Внешний инференс: API, веб-интерфейсы (например, Claude.ai), десктопные приложения. | Нет |
| Safeguard Classifiers | Мониторинг злоупотреблений, системы безопасности. | Нет (Non-Capabilities) |
| Internal Inference | Внутренние оценки, кодинг-агенты, RL-роллауты. Делится на safety и capabilities. | Частично |
| Non-Capabilities R&D | Исследования с минимальными внешними эффектами для возможностей. | Да (но не Capabilities) |
| Capabilities R&D | Эксперименты по улучшению алгоритмов, генерация данных, обучение новых моделей. | Да (Целевая категория для ограничения) |
Авторы выделяют риски обхода системы: «атака 5» (использование внешних вычислений, не попадающих в лог) и «атака 7» (ложная классификация вычислений R&D как безопасных). Для борьбы с этим предлагается использовать каналы с юридической ответственностью, такие как финансовые отчеты или регулирование с реальными штрафами.
Почему это важно сейчас
Любая система сдерживания требует доверия. VCAD создает инфраструктуру, которая позволяет конкурентам и обществу проверять заявления компаний. Это может запустить «гонку к вершине» (race to the top), где компании будут соревноваться в прозрачности. Если регулирование станет обязательным, уже отлаженный процесс VCAD ускорит его внедрение. Авторы подчеркивают, что публикация сделана срочно, так как текущие детали proposals могут быть неточными, но сама концепция является важным шагом к конкретике в вопросах безопасности ИИ.
Источник: LessWrong ↗
