Alibaba выпустила Qwen3.8-Flash-Next и открыла веса: файлы лежат на Hugging Face и ModelScope, технический отчёт — в репозитории на GitHub. Это мультимодальная MoE-модель на 125 млрд параметров, к которым добавлены 51 млрд параметров N-gram-эмбеддингов; на каждый токен активируется 6 млрд. Нативный контекст — 262 144 токена, растягивается до 1 000 000 через YaRN.
Флагманом релиз не считается. Компания выложила архитектурный набросок, на котором позже построят полное семейство Qwen4, — так же поступили с Qwen3-Next перед Qwen3.5. Смысл в том, чтобы сообщество разобрало изменения до того, как на них соберут большие модели.
Alibaba выпустила Qwen3.8-Flash-Next, чтобы показать каркас будущей Qwen4
Гибридная схема Gated DeltaNet + Gated Attention появилась в Qwen3-Next и затем без замены прошла через Qwen3.5, 3.6, 3.7 и 3.8. Нынешний релиз повторяет приём: изменения выносят на публику заранее, пока линейка не разрослась.
Экономика обучения в отчёте выглядит необычно — примерно в девять раз дешевле, чем у Qwen3.7-Plus, при более высоких результатах в коде и офисных задачах. Проверить это со стороны нельзя, но сами замеры компания публикует открыто.
Открыты именно веса. Данные, на которых учили модель, не опубликованы; отчёт описывает архитектуру, методику обучения и эксперименты, но не воспроизводит пайплайн целиком.
Внимание, residual-поток, эмбеддинги и оптимизатор
Три слоя из четырёх работают на Gated DeltaNet: он сжимает историю в состояние фиксированного размера. Четвёртый остаётся глобальным вниманием и отвечает за точный поиск по всему контексту. Поверх него добавили Qwen Sparse Attention — лёгкий индексер отбирает значимые фрагменты на уровне микроблоков, и цена обработки длинных последовательностей падает.
Gated Residual расширяет residual-поток до четырёх ветвей, чтением и записью управляет динамический гейт. Практический смысл — устойчивость обучения при росте глубины и более свободный перенос информации между слоями.
N-gram Embedding ищет по таблице с учётом локального контекста: ёмкость модели растёт, а дополнительных вычислений почти не добавляется. Таблицу разрешено держать в оперативной памяти хоста и подкачивать асинхронно, совмещая с работой ускорителя. Для 51 млрд таких параметров это существенно.
Оптимизатор — Muon, доработанный по трём направлениям: точность ортогонализации, разделение обязанностей с AdamW и разделение fused-параметров. Scaling law под новую архитектуру переобучили.
Бенчмарки: где разрыв реальный, а где зависит от обвязки
Сравнивают Qwen3.8-Flash-Next с младшей Qwen3.8-27B, с Qwen3.7-Plus на 397 млрд параметров (17 млрд активируемых), с DeepSeek-V4-Flash-0731 и с Claude-Opus-4.6 в режиме Max. Разрыв заметнее всего в агентном кодировании и офисных задачах, где модель обходит соперников, кратно более крупных по общему числу параметров.
| Тест | Flash-Next | Qwen3.7-Plus | DeepSeek-V4-Flash-0731 |
|---|---|---|---|
| SWE-bench Pro | 62,5 | 55,8 | 56,0 |
| SWE-bench Multilingual | 81,0 | 75,8 | — |
| CoWorkBench, офисные агенты | 73,9 | 65,1 | 45,1 |
| JobBench, профильные задачи | 55,7 | 27,6 | 41,3 |
| Toolathlon Verified | 73,5 | 50,6 | 70,3 |
| GPQA Diamond | 91,7 | 90,3 | 90,8 |
| LiveCodeBench v6 | 91,9 | 89,6 | 90,6 |
| HLE | 35,9 | 34,7 | 33,8 |
Проигрыши тоже видны. На HLE у Claude-Opus-4.6 40,0 против 35,9, на NL2Repo-Bench у Flash-Next 48,1, а у DeepSeek-V4-Flash — 54,2. Агентное кодирование DeepSWE 1.1 замеряли в двух обвязках, Claude Code и mini-SWE-agent, и в зачёт пошёл лучший результат, причём лучший именно на mini-SWE-agent. Цифры зависят от харнесса сильнее, чем хотелось бы, поэтому сверять их с чужими публикациями напрямую рискованно.
Часть тестов внутренние: CoWorkBench, RecreationBench, ClawEval-MM и Vision2Web сделаны в самой компании, а Vision2Web к тому же судит сторонняя модель. В мультимодальной части Flash-Next опережает и 27B, и Qwen3.7-Plus — AndroidWorld даёт 84,5, MathVision 90,6 без chain-of-thought. По OSWorld 2.0 картина скромнее: полное вознаграждение за задачу получено лишь в 19,4% прогонов.
Цена инференса и доступ из России
Продакшн-версия выходит под именем Qwen3.8-Flash в QwenCloud: миллион токенов контекста по умолчанию, встроенные инструменты. Тариф — 0,15 доллара за миллион входных токенов и 0,47 за миллион выходных.
Открытые веса не отменяют расходов на железо. Шесть миллиардов активируемых параметров описывают объём вычислений на токен, но не размер модели: 125 млрд весов всё равно нужно где-то разместить. Вынос N-gram-таблицы в память хоста снимает часть нагрузки, однако порог входа остаётся высоким — нужен парк ускорителей и человек, способный обслуживать inference-стек.
Из России оплата зарубежного облака требует обходных схем, поэтому часть команд смотрит на локальный запуск или посредников. Небольшим проектам аренда API обходится дешевле собственного инстанса; перелом наступает, когда поток запросов вырастает настолько, что аренда ускорителей становится выгоднее оплаты токенов.
Как проверить модель на своём кейсе за один вечер
Начинать с собственного примера, а не со среднего балла: один типовой запрос из рабочего пайплайна, прогнанный через Qwen3.8-Flash в QwenCloud, и тот же запрос на локальной Qwen3.8-27B. Сравнивать имеет смысл число успешных прогонов и цену за задачу.
Перед скачиванием весов пригодится карточка модели на Hugging Face — там условия использования и требования к памяти, а технический отчёт в GitHub объясняет, почему выбрана та или иная схема внимания.
Дальше решается вопрос, нужен ли собственный инстанс. Если поставленную задачу закрывает 27B, разница в качестве редко оправдывает парк ускорителей под 125B: прогон на API стоит центы и показывает это быстрее, чем развёртывание.
