Qwen3.8-27B：262K 上下文加视频理解压进单卡，SWE-bench Pro 涨 8.2 分

27B 一直是开源模型里最尴尬的尺寸：比 7B 贵得多，又打不过一两百 B 的旗舰。Qwen 这次的做法不是把参数堆上去，而是把原本只给旗舰的能力——长上下文、视频理解、长程智能体——整体下放到 27B 稠密模型上。

它能干什么：图文视频进，文字出

Qwen3.8-27B 是一个原生多模态的因果语言模型，也就是”语言模型 + 视觉编码器”的组合体。输入可以是纯文本、图片，或者视频；输出是文本，并且默认先在 think 块里写推理过程，再给结论。官方对它的定位非常明确：编码、专业工作、科研，以及需要连续调用工具跑很久的长程 agentic 任务。

值得注意的是它对长视频的态度。模型卡里写的是能力覆盖”从 STEM 图表、文档到小时级视频”的视觉理解——这不是”能看一张图”的级别，而是可以塞进整段会议录像或课程视频让它做摘要与检索。配合原生 262,144 token 上下文（可扩展到 1,000,000），它更接近”把一整个项目资料扔进去，让它自己找线索”的用法。

目标人群也很清楚：想在一张卡上完成”看图、读文档、连工具、写代码”全流程的团队，以及不想为了长上下文去租多卡集群的中小团队。

架构：混合线性注意力 + 多步 MTP

Qwen3.8 的底座来自 Qwen3.5，27B 稠密、64 层、hidden 维度 5120。层结构是混合的：16 组「3 × (Gated DeltaNet → FFN) + 1 × (Gated Attention → FFN)」，也就是每四层里有三层走线性注意力的 Gated DeltaNet，只有一层走完整的 Gated Attention。GDN 配 48 个 V 头、16 个 QK 头，head 维度 128；Gated Attention 则是 24 个 Q 头、4 个 KV 头，head 维度 256，RoPE 维度 64。FFN 中间维度 17,408，词表 248,320（含 padding）。

这套组合的意图很直白：用线性注意力压低长上下文成本，用少量完整注意力保住检索精度。模型还带多步训练的 MTP（Multi-Token Prediction），这是后面推理框架能吃到吞吐红利的地方。

数据：长程任务与视觉两条线同时抬升

模型卡给出的对比表里，最扎眼的不是小幅领先，而是几个数量级的变化（对比对象是上代 Qwen3.6-27B）：

• 终端里的 agentic 编码，Terminal Bench 2.1 从 63.4 到 73.0；
• 软件工程，SWE-bench Pro 从 53.5 到 61.7，QwenSWEBench 从 49.3 到 79.0；
• 长程编码，DeepSWE 1.1 从 13.3 到 42.2；
• 电脑操作，OSWorld-Verified 从 63.9 到 84.3；手机操作 AndroidWorld 从 70.3 到 81.9；
• 多模态软件工程 SWE-MM 从 25.7 到 38.6，视觉建站 Vision2Web 从 45.0 到 62.9；
• 视觉推理里 BabyVision 从 28.9 到 65.7，MathVision（无 CI）从 85.1 到 90.0。

同一张表也放了 Opus4.6 Max 作参照：Terminal Bench 2.1 是 78.2、GPQA Diamond 91.3、HLE 40.0。Qwen3.8-27B 对应成绩是 73.0、89.2、30.8——差距还在，但已经落在同一档讨论范围里，尤其是 27B 这个体积。

上手：三种部署配方 + 可调思考深度

官方没有藏着用法。Qwen3.8-27B 提供 SGLang、vLLM、TokenSpeed 三份现成 recipe，权重格式兼容 Transformers，允许直接跑 AutoModelForCausalLM 类接口。思考行为可以按请求控制：reasoning_effort 分 xhigh（默认，复杂任务）、medium（平衡）、low（速度与成本优先）三档；preserve_thinking 默认开启，跨轮保留历史推理内容，避免多轮任务里重复推同一件事。官方推荐的采样参数是思考模式 temperature=1.0、top_p=0.95、top_k=20，非思考模式则为 temperature=0.7、top_p=0.80、presence_penalty=1.5。

如果不想自己运维，模型卡还提到 Qwen Cloud 会上线托管版，默认 1M 上下文、内置官方工具，目前标注为”即将推出”。

许可证是 Apache-2.0，商用没有额外门槛。

模型地址：https://huggingface.co/Qwen/Qwen3.8-27B