Суть прорыва: Weight-Space Programming
Традиционно улучшение LLM требует сбора данных, написания лосс-функций и ресурсоемкого дообучения (fine-tuning). Исследователи из MIT представили метод Weight-Space Programming, где одна LLM (агент) выступает в роли хирурга для другой модели. Агент анализирует «мозг» (веса) целевой модели и вносит точечные изменения, не проводя классического обучения. Это позволяет менять поведение нейросети, как будто «подкручивая винтики» в черепе, без открытия учебников.
Результаты экспериментов MIT: Qwen3.5–0.8B
В оригинальном исследовании агент Astra 6 модифицировал модель Qwen3.5–0.8B. Результат превзошел ожидания: математические способности модели выросли в 6 раз — с 8% до 48% на бенчмарке. Это эквивалентно тому, как если бы человек, знающий математику на уровне 1 класса, после «операции» внезапно стал решать задачи на уровне студента.
Повторение тестов: MobileNetV3-Small
Автор статьи повторил эксперименты с моделью классификации изображений MobileNetV3-Small (50 млн параметров). Задача: различать кошек, собак, оленей и коней. Изначальный F1-скор составлял всего 45%. Агенту было разрешено только менять веса и делать инференс (прогоны) для оценки метрик, без доступа к обучению.
| Агент / Модель | Действие | Итоговый F1-скор | Примечание |
|---|---|---|---|
| Astra 6 | Изменение последнего слоя (классификатора) | 74% | Поверхностные правки, но эффективные |
| Opus 5.5 | Заморозка каналов и нейронов в глубоких слоях | 82% | Блокировка «шумящих» нейронов, дающих ложные сигналы |
Ключевые навыки LLM-агентов
Эксперименты выявили три способности агентов оперировать весами:
- Распознавание архитектуры: Astra 6 смогла определить, что модель обучалась для игры в Breakout, просто проанализировав сырые веса, без дополнительных пояснений.
- Точечная коррекция: Модели умеют находить конкретные нейроны, ответственные за ошибки (например, застревание машинки в игре), и отключать их.
- Генерация с нуля: В одном из тестов Astra написала матрицу весов для игры в Breakout исключительно по текстовому описанию правил, превзойдя модели, обучавшиеся 100–500 млн шагов.
Почему это важно
Технология демонстрирует, что LLM могут выступать как универсальные оптимизаторы для других нейросетей. Это открывает путь к автоматизации настройки моделей под специфические задачи без необходимости переобучения «с нуля» или использования огромных вычислительных ресурсов. Однако важно отметить, что текущие методы часто ограничиваются поверхностными слоями или простыми архитектурами, и масштабирование на огромные модели (trillion-scale) пока остается сложной задачей.
Источник: Habr ↗