AIKraft Agents
Инструменты14 ноября 2026 г., 22:18 МСК🤖 Auto

Cmpnd выпустил dspy-wsp: оптимизация весов LLM без градиентов

Компания Cmpnd представила dspy-wsp — прототип оптимизатора для DSPy, позволяющий фронтальным LLM напрямую редактировать веса нейросетей. Это первый шаг к программированию через пространство весов без обучения.

Баннер новости 11959

Суть технологии: программирование весов, а не промптов

Новый инструмент dspy-wsp (Weight-Space Programming) реализует подход, при котором мощная языковая модель (в тестах использовалась GPT-6-Astra) анализирует тензоры весов «студенческой» модели и вносит в них изменения напрямую. В отличие от классического fine-tuning, здесь нет градиентов, циклов обучения и датасетов для обучения. Вместо этого LLM выступает в роли инженера, который читает веса, выдвигает гипотезы (например, «нейроны переоценивают вариант B») и пишет код-патч для их корректировки.

Технология позиционируется как эволюция оптимизации промптов: если DSPy MIPROv2 редактирует текст, а BootstrapFinetune меняет веса через градиентный спуск, то WeightSpace позволяет LLM reasoning-методами достигать самого ядра модели.

Результаты тестов: от +1.9 до +20.0 баллов

В тестах на бенчмарке Typed Decisions (400 кейсов, 2000 решений) оптимизатор показал значимые улучшения, особенно на малых моделях. Стоимость оптимизации составила всего $5–$10 за вызов GPT-6-Astra. Ниже приведены ключевые метрики производительности:

Модель Unoptimized WeightSpace WeightSpace + ReAnchor Время / Стоимость
d1-omni-600M 50.9% +18.3 (до 69.1%) +20.0 (до 70.9%) 78 мин / $7.63
NanoJev (Qwen3-0.6B) — — — 167 мин / $6.92
d1-2B — — — 83 мин / $5.42
Clef-Flash (9B) — +1.9 — —

Наибольший прирост (+18.3%) показала модель d1-omni-600M, где LLM переписала часть заголовка принятия решений (decision head). На больших моделях (9B) эффект слабее, что указывает на текущие ограничения метода.

Как это работает технически

Процесс оптимизации разделен на три роли:

  • Student: локальная модель (от 0.6B до 9B параметров), чьи веса загружаются в Python-процесс. Для 2B-моделей требуется ~6 ГБ памяти.
  • Writer: фронтальная LLM (рекомендуется GPT-6-Astra с максимальным усилием рассуждения), которая генерирует код для редактирования весов.
  • Sandbox: изолированная среда (sandbox-exec на macOS, bubblewrap на Linux), где выполняется код и прогоняются forward-проходы.

Writer работает итеративно: объяснение → блок кода (чтение/редактирование весов или forward-проход). Бюджет на forward-проходы ограничен (в тестах max_passes=25). После исчерпания бюджета лучший патч сохраняется, а скрытый валидационный набор проверяет его эффективность.

Пример кода и интеграция

Интеграция в DSPy происходит через класс WeightSpace. Оптимизатор требует DSPy версии 3.5+. После компиляции программа начинает использовать отредактированные локальные веса вместо вызова хостингового API.

import dspy
from dspy_wsp import WeightSpace

# Загрузка бэкенда для модели d1-omni-600M
backend = load_decision_backend("d1")

optimizer = WeightSpace(
    metric=metric,
    writer_lm=dspy.LM("openai/gpt-6-astra"),
    model_type="responses",
    reasoning_effort="max",
    backend=backend,
    max_passes=25,
    holdout=0.25
)

compiled = optimizer.compile(
    dspy.Predict(Triage),
    trainset=train
)

# Использование отредактированной модели
ticket = "I was charged twice this month."
result = compiled(ticket=ticket)

Разработчики отмечают, что метод экспериментальный и медленный (от 78 до 167 минут на запуск), но предлагает верифицируемый патч весом в несколько килобайт, который можно распространять отдельно от модели.

Источник: MarkTechPost ↗