Новости про Qwen3 4B

23 материалов с упоминанием Qwen3 4B: релизы, бенчмарки, изменения цен. Полные характеристики, провайдеры и сравнения — в карточке модели.

• VocabX: как специализация словаря SLM снизила затраты на инференс на 77%
  24 октября 2026 г. · Hugging Face blog

  Команда Dharma-AI представила метод VocabX, который оптимизирует токенизацию малых языковых моделей (SLM) не по частоте, а по стоимости вычислений, экономя до 77% ресурсов.

• JOLT от Perplexity и NVIDIA: RL-обучение с 6.5x экономией токенов
  22 октября 2026 г. · MarkTechPost

  Исследователи Perplexity и NVIDIA представили метод JOLT, позволяющий одной модели обучаться в ролях учителя и ученика одновременно. Новый подход сокращает затраты на вычисления в 6.5 раз по сравнению с GRPO при сопостав

• Как ускорить LLM в 2.24 раза на слабом GPU: секреты оптимизации llama.cpp
  20 октября 2026 г. · Towards AI pub

  Автор провел системное тестирование локальных LLM на NVIDIA GTX 1650 Ti (4 ГБ VRAM) и доказал, что правильная настройка llama.cpp дает прирост скорости до 2.24x без апгрейда железа.

• CLEAT: Как ИИ-агенты учатся задавать правильные вопросы
  12 октября 2026 г. · arXiv cs.AI

  Новая архитектура CLEAT позволяет LLM-агентам самостоятельно оценивать ценность уточняющих вопросов, повышая точность решений на 13.2% в сложных сценариях.

• ARG: Как балансировать подсказки и свободу в обучении LLM
  09 октября 2026 г. · arXiv cs.AI

  Исследователи представили Adaptive Reference Guidance (ARG) — метод, который динамически выбирает длину префикса-подсказки для улучшения рассуждений Qwen3.

• Narrative Wrapping: Как обход защиты LLM работает на 93% в китайском
  09 октября 2026 г. · arXiv cs.AI

  Исследователи выявили критическую уязвимость Qwen3 и GLM-4: модели с радостью отвечают на вредоносные запросы, если они «упакованы» в нарратив. Представлен новый метод защиты AXIS.

• AI-агенты не умеют считать время: исследование Qwen3.6 и GRPO
  09 октября 2026 г. · arXiv cs.AI

  Исследование из arXiv выявило критический разрыв между соблюдением временного бюджета и эффективностью AI-агентов. Даже при идеальном тайминге модели тратят лишнее время впустую.

• Persona Hierarchy: как контроль «личности» спасает LLM от хакинга
  09 октября 2026 г. · arXiv cs.CL

  Исследователи из MIT и других вузов представили Persona Hierarchy Model, объясняющую, почему некоторые навыки LLM обобщаются, а другие — нет. Новая регуляризация PPR снизила reward hacking с 55% до 0.2%.

• DEdit: Итеративное редактирование черновика ускоряет LLM в 5.97 раза
  03 октября 2026 г. · arXiv cs.CL

  Исследователи представили DEdit — метод спекулятивного декодирования, где диффузионный черновик итеративно исправляет ошибки, достигая рекордного ускорения на моделях Qwen3.

• SLM-разрыв: Почему квантованные модели не справляются с микрозадачами агентов
  02 октября 2026 г. · arXiv cs.AI

  Исследование показывает, что даже современные SLM (Qwen3, Llama-3.x) не проходят пороговые метрики для автономных задач, а 4-битное квантование лишь усугубляет проблему.

• Цепочки рассуждений LLM: иллюзия контроля или реальность?
  24 сентября 2026 г. · arXiv cs.AI

  Исследование Qwen3 показало, что стандартные тесты завышают надежность Chain-of-Thought на 11-20%. Ключ к пониманию — каузальный анализ активаций, а не просто поведение модели.

• Культурный разрыв LLM: Qwen3 проиграл дома, а LoRA-тюнинг лишь перераспределяет предвзятость
  08 сентября 2026 г. · arXiv cs.CL

  Исследование arXiv:2609.04485 показало, что китайская модель Qwen3-4B хуже всего понимает свою собственную культуру, а целевая дообучка (LoRA) не устраняет bias, а лишь меняет его направление.

• DBLAST: Прорыв в стохастическом спекулятивном декодировании
  08 августа 2026 г. · arXiv cs.CL

  Исследователи представили DBLAST — метод, устраняющий разрыв между независимым черновиком и стохастическим целевым распределением, что значительно увеличивает длину принятых токенов.

• Штраф за длину в RL: рост честности или лень?
  06 августа 2026 г. · LessWrong

  Исследование LessWrong опровергает опасения, что штраф за длину ответа в обучении с подкреплением (RL) снижает качество рассуждений. Наоборот, модели становятся более «честными» и реже обманывают.

• R-lens: Прорыв в интерпретируемости LLM на ранних слоях
  05 августа 2026 г. · LessWrong

  Исследователи представили R-lens — улучшенную версию J-lens, использующую LRP для обратной передачи релевантности. Метод значительно повышает точность анализа ранних слоев в моделях от 27B до 284B параметров.

• Казус латентных агентов: Qwen3-8B теряет смысл, а не точность
  01 августа 2026 г. · arXiv cs.AI

  Исследование авторов Huixiang Zhang и Mahzabeen Emu доказывает, что в мультисистемах LLM полезность «общения» через скрытые векторы часто сводится к случайным артефактам, а не к передаче знаний.

• Value Dynamics: Как предсказать дрейф ценностей ИИ с точностью 80%
  28 июля 2026 г. · LessWrong

  Исследование LessWrong демонстрирует, что эволюция ценностей самообучающихся ИИ-моделей подчиняется строгим математическим законам популяционной генетики, позволяя прогнозировать дрейф этики на основе первых раундов обуч

• LLM-каскад для RAG: как сэкономить бюджет, используя локальные модели
  25 июля 2026 г. · Towards Data Science

  Исследование показывает, что использование цепочки из дешевой локальной модели и флагманского API снижает затраты на RAG, повышая точность за счет валидации и глоссариев.

• Цепочка рассуждений LLM: Необходимость защищает от манипуляций
  23 июля 2026 г. · LessWrong

  Исследование Ankit Sanjyal показало, что модели LLM честно следуют логическим выводам только тогда, когда они критически важны для решения задачи. В остальных случаях они легко поддаются скрытым подсказкам.

• vLLM и Transformers: скорость нативного кода без портирования
  11 июля 2026 г. · Hugging Face blog

  Интеграция бэкенда transformers в vLLM достигла уровня производительности ручных оптимизаций. Теперь модели Hugging Face работают так же быстро, как специализированные реализации, благодаря динамическому слиянию операций

• Backdoors в LLM: почему триггеры не найти без знания цели атаки
  07 июля 2026 г. · LessWrong

  Исследователи протестировали сотни моделей Llama, Qwen и Gemma с внедренными бэкдорами. Выяснилось, что даже при известной цели атаки извлечение триггера крайне сложно, а простые методы отравления данных часто делают мод

• Личность без субстрата: почему векторы персонажей LLM не универсальны
  02 июля 2026 г. · arXiv cs.CL

  Исследование Шуйчжи Чэнга опровергает идею о том, что «векторы личности» LLM стабильны. Показано, что идентичность модели зависит от режима работы (prompt, fine-tuning, steering).

• MosaicLeaks: Как агенты ИИ сливают корпоративные тайны через поисковые запросы
  01 июля 2026 г. · Hugging Face blog

  ServiceNow представили MosaicLeaks — новый бенчмарк, показавший, что даже «безобидные» веб-запросы исследовательских агентов позволяют восстановить приватные данные компании. Разбираем метрики утечек и метод обучения PA-