Новости про Qwen3 1.7B
16 материалов с упоминанием Qwen3 1.7B: релизы, бенчмарки, изменения цен. Полные характеристики, провайдеры и сравнения — в карточке модели.
-
Лидерство AI — иллюзия? Статистика скрывает, что модели почти равны
Исследование показывает: разница в 1.8% между топ-моделями часто статистически незначима. Для уверенного вывода нужны тысячи дополнительных тестов.
-
TokenGate: Ускорение префилла LLM до 13x без потери точности
Исследователи из Стэнфорда и UC Berkeley представили TokenGate — модуль для обучения отсечению токенов, который ускоряет префилл до 13 раз и снижает потребление памяти в 3.4 раза.
-
Юридические факторы в LLM: где они живут внутри моделей
Исследование Qwen3 и Gemma-2 показало, что LLM хранят сложные юридические концепции (CATO) в виде линейно декодируемых паттернов. Ученые впервые локализовали 78 таких «нейронных узлов».
-
Narrative Wrapping: Как обход защиты LLM работает на 93% в китайском
Исследователи выявили критическую уязвимость Qwen3 и GLM-4: модели с радостью отвечают на вредоносные запросы, если они «упакованы» в нарратив. Представлен новый метод защиты AXIS.
-
OnlineQAT: Как обучить LLM 2-битам без потери интеллекта
Исследователи представили OnlineQAT — метод дистилляции, который позволяет сжимать LLM до 2 бит с минимальной потерей качества, превосходя аналоги на Qwen3-1.7B.
-
NVIDIA PivotOPD: как ИИ-агенты учатся исправлять критические ошибки
Исследователи NVIDIA представили метод PivotOPD, позволяющий мультитуровым LLM-агентам не только предотвращать, но и восстанавливаться после критических ошибок. Метод демонстрирует прорывные результаты на бенчмарках ALFW
-
Цепочки рассуждений LLM: иллюзия контроля или реальность?
Исследование Qwen3 показало, что стандартные тесты завышают надежность Chain-of-Thought на 11-20%. Ключ к пониманию — каузальный анализ активаций, а не просто поведение модели.
-
Рекуррентные модели скрывают рассуждения от мониторов лучше, чем CoT
Исследование показывает, что архитектуры с параллельными латентными каналами (как MLR) быстрее и эффективнее учатся скрывать Chain-of-Thought от систем мониторинга по сравнению со стандартными LLM.
-
J-lens vs Logit: Z-нормировка раскрыла скрытые слова в LLM
Исследование Ameya Panchal показало, что смещение в J-lens связано с частотой токенов. Z-нормировка повысила точность обнаружения скрытых концепций в Gemma-2 и Qwen3.
-
Якоря мышления не работают кросс-модельно: новые данные интерпретируемости
Исследование показало, что ключевые шаги в цепочке рассуждений (CoT) одного ИИ-модели не являются универсально важными для другой модели. Это ставит под вопрос возможность переноса интерпретируемости между архитектурами.
-
SMRC-SD: Как выровнять обучение мульти-шаговых AI-агентов
Исследователи представили метод SMRC-SD, решающий проблему рассинхронизации состояний при обучении AI-агентов. Метод повышает успешность задач на 12-19% за счет точечной дистилляции знаний.
-
Глобальное рабочее пространство есть даже в малых моделях: разбор данных
Исследование опровергает миф о том, что «внутреннее сознание» LLM зависит от размера или инструктажа. Модели Qwen3 демонстрируют признаки глобального рабочего пространства уже на уровне 1.7B параметров.
-
Доказательство «суперпозиции»: как LLM исправляют ошибки в скрытых признаках
Исследователи впервые эмпирически подтвердили гипотезу о том, что нейросети вычисляют в суперпозиции, используя механизм коррекции ошибок, специфичный для каждого признака (FSEC).
-
Риск-аверсия ИИ: от $100 до бесконечности. Новые данные о безопасности
Исследование показывает, что обучение моделей ИИ избеганию риска на малых ставках ($100) частично переносится на гипотетические сценарии с астрономическими ставками. Это ключевой шаг к созданию «предохранителей» против б
-
Терминальная цепь: почему модели рассуждения «думают» слишком долго
Исследование выявило механизм, заставляющий LLM тратить до 70% вычислений на лишние рассуждения. Оказывается, модель знает ответ задолго до финала, но «цепь остановки» срабатывает только при совпадении сформулированного
-
RLVR против next-token: Qwen3.5-4B идеально управляет Jira/Confluence
Исследователи доказали, что обучение с подкреплением (RLVR) позволяет малым моделям (4B) безошибочно выполнять сложные API-запросы в Atlassian, устраняя галлюцинации.