Суть проблемы: почему нужно замедление
В августе 2026 года группа из более чем 1000 сотрудников ведущих ИИ-лабораторий подписала открытое письмо с призывом к правительству США создать механизмы «управления темпом развития» (pacing the frontier). Цель — не остановить прогресс, а контролировать время появления моделей с определенным уровнем способностей, чтобы минимизировать экзистенциальные риски. Авторы отмечают, что внутреннее регулирование в США также замедлит Китай, лишив его доступа к самым передовым алгоритмам и моделям для дистилляции или кражи.
Четыре уровня регулирования
Предлагается поэтапное внедрение мер: от простых временных пауз до сложных систем оценки рисков. Вот как это может выглядеть на практике:
| Опция | Механизм | Цель и эффект |
|---|---|---|
| 1. Временная пауза | 100% вычислительных мощностей направлять только на инференс (использование готовых моделей). Обучение новых моделей запрещено. | Срочная остановка развития способностей. Работает как «скорая помощь», пока не будут готовы более тонкие инструменты. |
| 2. Квоты на вычисления | Минимум 70% мощностей — на внешний инференс, 25% — на прозрачные исследования безопасности. Остаток — на R&D. | Баланс между прибылью и безопасностью. Прозрачность кода безопасности позволяет аудиторам отслеживать нарушения. |
| 3. Задержка R&D | Запрет на использование моделей для автоматизации ИИ-исследований, если они были обучены менее чем X месяцев назад (рекомендация: 9 месяцев). | Замедляет «взрывной» рост (takeoff) и предотвращает саботаж исследований самими ИИ-системами. |
| 4. Порог риска | Установление максимального допустимого уровня экзистенциального риска (например, <1% в месяц), контролируемого независимыми аудиторами. | Идеальная, но сложная система. Стимулирует компании выбирать менее эффективные, но более безопасные алгоритмы. |
Ключевые метрики и инструменты
Для контроля за выполнением требований предлагается использовать Epoch Capabilities Index — унифицированный индекс способностей ИИ. Он должен включать как публичные, так и закрытые бенчмарки, чтобы компании не могли «натренироваться» на тестах (gaming the benchmark). Аудит будет проводиться третьими сторонами с полным доступом к внутренним данным компаний, что позволит проверять реальные распределения вычислительных ресурсов, а не только отчеты.
Почему это важно сейчас
Авторы подчеркивают, что США могут начать внедрять эти меры уже сегодня с минимальной подготовкой. Однако для эффективности требуется создание государственного потенциала для надежной оценки способностей ИИ. Стратегия предполагает переход от внутреннего регулирования к международному координационному соглашению, но только после того, как внутренние механизмы покажут свою работоспособность. Это позволяет избежать ситуации, когда одно государство замедляет прогресс, а другое (в частности, Китай) продолжает ускоряться, получая преимущество в будущем.
Источник: LessWrong ↗