Alibaba выпустила Qwen3.8-Flash-Next: 125B, 1M контекста и цены

Alibaba выпустила Qwen3.8-Flash-Next и открыла веса: файлы лежат на Hugging Face и ModelScope, технический отчёт — в репозитории на GitHub. Это мультимодальная MoE-модель на 125 млрд параметров, к которым добавлены 51 млрд параметров N-gram-эмбеддингов; на каждый токен активируется 6 млрд. Нативный контекст — 262 144 токена, растягивается до 1 000 000 через YaRN.

Флагманом релиз не считается. Компания выложила архитектурный набросок, на котором позже построят полное семейство Qwen4, — так же поступили с Qwen3-Next перед Qwen3.5. Смысл в том, чтобы сообщество разобрало изменения до того, как на них соберут большие модели.

Alibaba выпустила Qwen3.8-Flash-Next, чтобы показать каркас будущей Qwen4

Гибридная схема Gated DeltaNet + Gated Attention появилась в Qwen3-Next и затем без замены прошла через Qwen3.5, 3.6, 3.7 и 3.8. Нынешний релиз повторяет приём: изменения выносят на публику заранее, пока линейка не разрослась.

Экономика обучения в отчёте выглядит необычно — примерно в девять раз дешевле, чем у Qwen3.7-Plus, при более высоких результатах в коде и офисных задачах. Проверить это со стороны нельзя, но сами замеры компания публикует открыто.

Открыты именно веса. Данные, на которых учили модель, не опубликованы; отчёт описывает архитектуру, методику обучения и эксперименты, но не воспроизводит пайплайн целиком.

Внимание, residual-поток, эмбеддинги и оптимизатор

Три слоя из четырёх работают на Gated DeltaNet: он сжимает историю в состояние фиксированного размера. Четвёртый остаётся глобальным вниманием и отвечает за точный поиск по всему контексту. Поверх него добавили Qwen Sparse Attention — лёгкий индексер отбирает значимые фрагменты на уровне микроблоков, и цена обработки длинных последовательностей падает.

Gated Residual расширяет residual-поток до четырёх ветвей, чтением и записью управляет динамический гейт. Практический смысл — устойчивость обучения при росте глубины и более свободный перенос информации между слоями.

N-gram Embedding ищет по таблице с учётом локального контекста: ёмкость модели растёт, а дополнительных вычислений почти не добавляется. Таблицу разрешено держать в оперативной памяти хоста и подкачивать асинхронно, совмещая с работой ускорителя. Для 51 млрд таких параметров это существенно.

Оптимизатор — Muon, доработанный по трём направлениям: точность ортогонализации, разделение обязанностей с AdamW и разделение fused-параметров. Scaling law под новую архитектуру переобучили.

Бенчмарки: где разрыв реальный, а где зависит от обвязки

Сравнивают Qwen3.8-Flash-Next с младшей Qwen3.8-27B, с Qwen3.7-Plus на 397 млрд параметров (17 млрд активируемых), с DeepSeek-V4-Flash-0731 и с Claude-Opus-4.6 в режиме Max. Разрыв заметнее всего в агентном кодировании и офисных задачах, где модель обходит соперников, кратно более крупных по общему числу параметров.

Тест Flash-Next Qwen3.7-Plus DeepSeek-V4-Flash-0731
SWE-bench Pro 62,5 55,8 56,0
SWE-bench Multilingual 81,0 75,8 —
CoWorkBench, офисные агенты 73,9 65,1 45,1
JobBench, профильные задачи 55,7 27,6 41,3
Toolathlon Verified 73,5 50,6 70,3
GPQA Diamond 91,7 90,3 90,8
LiveCodeBench v6 91,9 89,6 90,6
HLE 35,9 34,7 33,8

Проигрыши тоже видны. На HLE у Claude-Opus-4.6 40,0 против 35,9, на NL2Repo-Bench у Flash-Next 48,1, а у DeepSeek-V4-Flash — 54,2. Агентное кодирование DeepSWE 1.1 замеряли в двух обвязках, Claude Code и mini-SWE-agent, и в зачёт пошёл лучший результат, причём лучший именно на mini-SWE-agent. Цифры зависят от харнесса сильнее, чем хотелось бы, поэтому сверять их с чужими публикациями напрямую рискованно.

Часть тестов внутренние: CoWorkBench, RecreationBench, ClawEval-MM и Vision2Web сделаны в самой компании, а Vision2Web к тому же судит сторонняя модель. В мультимодальной части Flash-Next опережает и 27B, и Qwen3.7-Plus — AndroidWorld даёт 84,5, MathVision 90,6 без chain-of-thought. По OSWorld 2.0 картина скромнее: полное вознаграждение за задачу получено лишь в 19,4% прогонов.

Цена инференса и доступ из России

Продакшн-версия выходит под именем Qwen3.8-Flash в QwenCloud: миллион токенов контекста по умолчанию, встроенные инструменты. Тариф — 0,15 доллара за миллион входных токенов и 0,47 за миллион выходных.

Открытые веса не отменяют расходов на железо. Шесть миллиардов активируемых параметров описывают объём вычислений на токен, но не размер модели: 125 млрд весов всё равно нужно где-то разместить. Вынос N-gram-таблицы в память хоста снимает часть нагрузки, однако порог входа остаётся высоким — нужен парк ускорителей и человек, способный обслуживать inference-стек.

Из России оплата зарубежного облака требует обходных схем, поэтому часть команд смотрит на локальный запуск или посредников. Небольшим проектам аренда API обходится дешевле собственного инстанса; перелом наступает, когда поток запросов вырастает настолько, что аренда ускорителей становится выгоднее оплаты токенов.

Как проверить модель на своём кейсе за один вечер

Начинать с собственного примера, а не со среднего балла: один типовой запрос из рабочего пайплайна, прогнанный через Qwen3.8-Flash в QwenCloud, и тот же запрос на локальной Qwen3.8-27B. Сравнивать имеет смысл число успешных прогонов и цену за задачу.

Перед скачиванием весов пригодится карточка модели на Hugging Face — там условия использования и требования к памяти, а технический отчёт в GitHub объясняет, почему выбрана та или иная схема внимания.

Дальше решается вопрос, нужен ли собственный инстанс. Если поставленную задачу закрывает 27B, разница в качестве редко оправдывает парк ускорителей под 125B: прогон на API стоит центы и показывает это быстрее, чем развёртывание.

Рейтинг
( Пока оценок нет )
Макс Логинов/ автор статьи

Привет, я - Макс! Пишу тут о технологиях, искусственном интеллекте и цифровой экономике. Собираю новости об AI и нейросетях, гаджетах, интернете, кибербезопасности и софте, объясняю сложные темы простым языком. Помогаю понять, что стоит за громкими анонсами и как новые технологии влияют на повседневную жизнь.

Q-Новости — всё о технологиях AI