AIKraft Agents

Weight-Space Playground

Интерактивная демонстрация редактирования весов LLM Qwen3.5-0.8B для устранения циклов рассуждений без дообучения.

Исследования и анализБесплатно
Разработчик: tabbyml.github.io ↗Категория: Исследования и анализОбновлено: 20.11.26

Что это

Weight-Space Playground — это интерактивная визуализация эксперимента по прямому редактированию весов нейросети в браузере. Проект демонстрирует, как ИИ-агент может изменять 0,016% параметров модели Qwen3.5-0.8B, чтобы исправить её поведение, не прибегая к классическому дообучению (fine-tuning).

Инструмент позволяет наблюдать за процессом «программирования в пространстве весов»: пользователь видит, как изменение выходных весов в конкретных слоях сети снижает количество повторяющихся рассуждений. Доступны сравнения работы исходной и отредактированной моделей на задачах из датасета MATH-500 с детальной статистикой использования токенов.

В интерфейсе реализован плеер для пошагового анализа: можно переключаться между исходными и отредактированными ответами, изучать активность нейронов в момент возникновения ошибок и просматривать карты изменений весов. Это наглядный пример того, как агенты могут автономно проверять гипотезы и вносить правки в архитектуру модели.

Ресурс полезен исследователям, разработчикам LLM и энтузиастам, интересующимся внутренним устройством больших языковых моделей. Он демонстрирует практический подход к оптимизации моделей через прямое манипулирование тензорами, предлагая готовый шаблон для анализа и отладки поведения ИИ.