Суть открытия: программирование в пространстве весов
Лаборатория OpenAI опубликовала детальные логи экспериментов, демонстрирующих способность больших языковых моделей (LLM) понимать и генерировать веса нейронных сетей. В центре внимания — модель gpt-6-astra (внутреннее название GPT-6), которая действовала в режиме «без инструментов» (tool-free) или с ограниченным доступом к песочнице Python. Ключевой вывод: модель способна не просто предсказывать текст, а физически изменять архитектуру и параметры других сетей, улучшая их функциональность.
Кейс: Улучшение Qwen3.5-0.8B через редактирование весов
Наиболее показательным стал Эксперимент 8, где задача состояла в том, чтобы сделать модель Qwen3.5-0.8B лучше в решении математических задач. Вместо классического дообучения (fine-tuning) на данных, GPT-6 сгенерировала дифференциальные изменения (diffs) к существующим весам модели. Процесс включал несколько итераций (passes), где модель анализировала ошибки и корректировала веса.
Для сравнения эффективности был использован базовый набор моделей. Результаты демонстрируют, что прямое манипулирование весами через LLM-интерфейс может быть альтернативой традиционному обучению.
| Модель / Эксперимент | Метод воздействия | Количество итераций (passes) | Примечание |
|---|---|---|---|
| Qwen3.5-0.8B | Редактирование весов (GPT-6) | 10, 25, 50 | Основной объект улучшения |
| Gemma 3 270M | Редактирование весов (GPT-6) | — | Дополнительный follow-up эксперимент |
| Qwen3.5-0.8B (базовая) | Без изменений | 0 | Контрольная точка (baseline) |
Методология: Строгий контроль и аудит
Все 1 125 ходов (turns) в опубликованных логах были проверены на отсутствие сторонних инструментов. Модель не имела доступа к интернету, файловой системе или внешним API. В экспериментах, где требовался код (например, для анализа или применения весов), использовалась изолированная Python-песочница с ограничением по времени и сети. Каждый шаг модели, включая её внутренние рассуждения (reasoning summaries) и сгенерированный код, задокументирован в файлах run.json и tool_calls.jsonl.
Другие ключевые эксперименты
Помимо улучшения Qwen, серия экспериментов охватывает широкий спектр задач:
- Идентификация игр: Модель определяла, на какой игре (Breakout, Pong, Pac-Man) обучалась сеть, анализируя только её веса.
- Генерация изображений: Анализ диффузионных моделей для определения генерируемых форм (круг, квадрат, треугольник) без прямого прохода (forward pass).
- Языковая идентификация: Определение изученного языком блока нейросети (Python, romaji, English).
- Синдром угодничества: Выявление сycophancy в языковых моделях через анализ весов.
- Создание с нуля: Генерация сетей для игр MinAtar (Breakout, Seaquest, Asterix) и Go (1.5M весов) с нуля.
Значение для индустрии
Публикация логов под лицензией CC BY 4.0 открывает путь для воспроизведения результатов. Это подтверждает тренд на «Weight Space Programming» — использование LLM как высокоуровневых архитекторов нейронных структур. Способность GPT-6 улучшать производительность других моделей через прямое редактирование весов может привести к появлению новых инструментов автоматизации ML-пайплайнов, снижающих потребность в ресурсоемком дообучении.
Источник: Github ↗