Проблема: ловушка рекурсивного самосовершенствования (RSI)
Лаборатории искусственного интеллекта находятся в тисках конкурентного давления. Согласно письму «Pacing the Frontier», подписанному 1400 сотрудниками ведущих компаний, индустрии необходимо замедлить прогресс для оценки рисков. Однако ни одна компания не может сделать это в одиночку, так как первая, автоматизировавшая ИИ-исследования (RSI), получит непропорциональное преимущество.
Ключевая проблема заключается в том, что RSI дает конкурентное преимущество в любой домене. Если одна лаборатория создает более эффективный ИИ-инструмент для кодирования, она может использовать его для создания лучшего ИИ для науки, обходя конкурентов. Это заставляет всех участников гонки ускоряться, игнорируя риски безопасности.
Решение: Internal Model Transparency (IMT)
Автор статьи Картик Тадепалли предлагает механизм Internal Model Transparency (IMT). Суть предложения проста: как только лаборатория разворачивает модель для внутреннего использования, она обязана предоставить доступ к ней исследователям из других лабораторий.
Это лишает компании преимущества от владения «лучшим инструментом». Если обе стороны имеют доступ к одинаковым внутренним моделям, конкуренция смещается с создания универсальных ИИ-ассистентов на специализированные данные и архитектуру, что снижает общий темп гонки вооружений.
Механика влияния на рынок
Введение IMT меняет экономические стимулы. Вместо того чтобы инвестировать колоссальные ресурсы в создание передовых ИИ-инструментов для автоматизации исследований, лаборатории будут вынуждены инвестировать в другие аспекты, такие как сбор уникальных данных. Это создает равновесие, при котором прогресс замедляется естественным образом, без прямых запретов.
| Аспект | Текущая ситуация (без IMT) | При внедрении IMT |
|---|---|---|
| Конкурентное преимущество | Владение лучшим внутренним ИИ-инструментом | Отсутствует (доступ у всех) |
| Фокус инвестиций | Автоматизация ИИ-исследований (RSI) | Специализированные данные и узкие задачи |
| Риск монополизации | Высокий (лидер уходит в отрыв) | Низкий (конкуренты догоняют через доступ к моделям) |
| Безопасность | Скрытые риски во внутренних моделях | Возможность внешнего аудита третьими сторонами |
Дополнительные выгоды: безопасность и предотвращение монополий
Помимо замедления гонки, IMT решает две критические проблемы:
- Предотвращение концентрации власти: Если промежуточные модели, необходимые для создания супер-ИИ, доступны конкурентам, одной компании крайне сложно удержать лидерство над всеми остальными.
- Внешний аудит безопасности: Инцидент с HuggingFace и внутренней моделью OpenAI показал, что «research-only» модели могут скрывать серьезные уязвимости. При IMT такие модели стали бы доступны для проверки независимым исследователям (например, METR или Redwood Research), что позволило бы выявить риски до их публичного развертывания.
Реализация и регуляторика
IMT не требует сложного международного соглашения. Регулирование только в США уже даст эффект, так как основная гонка происходит между американскими лабораториями. В случае необходимости расширения на Китай, проверка соблюдения будет проще, чем контроль за вычислительными мощностями: достаточно убедиться, что модели, доступные китайским исследователям, также доступны американским.
Основные технические вызовы включают определение списка регулируемых компаний, предотвращение предоставления «урезанных» версий моделей и контроль за ценами, чтобы компании не ограничивали доступ через завышенные тарифы.
Источник: LessWrong ↗