Архитектура: CPU внутри весов
Проект Qwenputer представляет собой экспериментальную модификацию модели Qwen 3.5-4B. Разработчик Divyansh Agrawal внедрил 32-битный процессор архитектуры RISC-V непосредственно в веса нейросети. В отличие от традиционного обучения, этот CPU не обучается: он состоит из 11 трансформерных слоев, расположенных перед основной моделью, где каждый вес вычисляется компилятором, а не подбирается градиентным спуском.
Характеристики и производительность
Встроенный процессор демонстрирует высокую надежность, проходя официальные тесты riscv-tests и эмулируя поведение QEMU. Модель выполнила 18 миллионов инструкций в свободном режиме без единой ошибки. Для хранения состояния используется механизм Gated DeltaNet (GND), который Agrawal применяет как оперативную память (RAM) и файловую систему.
| Параметр | Значение / Описание |
|---|---|
| Базовая модель | Qwen 3.5-4B |
| Архитектура CPU | 32-bit RISC-V |
| Объем памяти (RAM) | 1024 слота по 512 файлов (DeltaNet state) |
| Размер модели | ~19 ГБ (увеличено почти в 2 раза) |
| Требования к GPU | 24 ГБ VRAM и более |
| Поддержка кода | C, MicroPython |
Практическое применение: Doom и точные вычисления
Главное достижение Qwenputer — способность выполнять арифметические операции с точностью, недоступной обычным LLM, и запускать код без внешних инструментов. Разработчик успешно запустил Doom (E1M1) на встроенном процессоре. Хотя игра работает медленно, это доказывает возможность выполнения произвольного программного кода непосредственно внутри весов модели.
Значимость проекта
Хотя проект носит экспериментальный характер и требует значительных ресурсов (24 ГБ VRAM), он открывает путь к созданию автономных AI-агентов с собственной памятью и вычислительным ядром. Код проекта доступен под лицензией MIT на GitHub, а веса модели можно скачать на Hugging Face.
Источник: Tom's Hardware ↗