Суть проблемы: формальное соблюдение правил
Правительства и регуляторы рассматривают ограничение количества операций с плавающей запятой (FLOPs) за один тренировочный запуск как ключевой механизм контроля за развитием передовых ИИ-моделей. Идея заключается в том, чтобы либо начинать обучение с нуля (случайная инициализация), либо использовать известные веса предыдущей модели, фиксируя затраты вычислений. Однако исследование, опубликованное на LessWrong, демонстрирует, что такие меры легко обходятся «в духе, но не в букве закона».
Метод 1: Weight Smuggling (Контрабанда весов)
Тренер может скрытно внедрить веса ранее обученной модели в начало нового тренировочного запуска. Это позволяет обойти требование «чистого старта» или использования зарегистрированных весов. Основные способы реализации:
- Кодирование в данных: Веса «контрабандной» модели кодируются непосредственно в обучающих данных. При начале обучения алгоритм декодирует их и продолжает обучение, фактически используя уже накопленный опыт.
- LoRA-аппроксимация: Вместо передачи полных весов (что требует огромного объема данных), можно использовать легковесные адаптеры (LoRA). Это делает процесс скрытой передачи параметров вычислительно незаметным и эффективным.
Метод 2: Агрегация параллельных запусков
Вместо последовательного обучения можно запустить несколько независимых процессов с ограниченным бюджетом FLOPs, а затем объединить их результаты. Этот метод известен как Model Souping (или Souper-Model). Арифметическое усреднение весов нескольких моделей позволяет получить производительность, сопоставимую с одной большой моделью, обученной за один раз, но формально каждый запуск остается в рамках лимита.
Сравнение методов обхода лимитов
| Метод обхода | Суть механизма | Сложность реализации | Риск обнаружения |
|---|---|---|---|
| Weight Smuggling (через данные) | Встраивание весов предыдущей модели в датасет | Высокая (требует точной синхронизации) | Низкий (выглядит как шум в данных) |
| LoRA-инъекция | Добавление малых адаптеров к «чистым» весам | Низкая/Средняя | Средний (требует анализа архитектуры) |
| Model Souping | Усреднение весов нескольких параллельных моделей | Низкая | Низкий (результат выглядит как новая модель) |
Почему это важно для регуляторов
Текущие подходы к верификации вычислений (например, проверка хешей весов или логирование FLOPs) не учитывают возможность скрытого переноса знаний между запусками. Исследователи из GPAI Policy Lab отмечают, что для эффективного контроля необходимо переходить от ограничения FLOPs «за один запуск» к глобальному бюджету обучения, охватывающему весь жизненный цикл разработки модели. Однако это порождает новые проблемы: как оценить пороговые значения глобального бюджета и как распределить квоты между участниками рынка.
Уверенность авторов в том, что существующие механизмы верификации не справятся с такими атаками, составляет более 90%. Без изменения парадигмы регулирования, ИИ-компании смогут продолжать масштабировать модели, формально соблюдая лимиты вычислений.
Источник: LessWrong ↗