
关着思考追平思考全开:一个 LoRA 让 27B 编码 Agent 少写六到八倍 token
harness-hub 用强化学习给 Qwen3.8-27B 加了一层 OpenCode 专用 LoRA:关掉思考反超思考全开的底座,单任务 token 只有六分之一到八分之一,SWE-bench Pro 提升 15.7 分。
相关标签
关着思考追平思考全开:一个 LoRA 让 27B 编码 Agent 少写六到八倍 token
修一个 bug,模型”想”了三万 token 才动手——这是开思考模式的编码 Agent 的日常账单。harness-hub 刚刚发布的新适配器 Qwen3.8-27B-opencode-adapted 给出了一个反直觉的答案:把思考关掉,反而能追平思考全开的准确率,token 只用六分之一。
它不是新底座,而是给 Qwen/Qwen3.8-27B 加的一层 LoRA 适配器(秩 32),用强化学习(TRL 的 AsyncGRPO)专门训练来充当 OpenCode 编码 Agent 背后的模型。输入是软件工程或终端任务——修依赖、写验证器、跑测试;输出是 OpenCode 里的工具调用序列。模型卡里给了一个真实的 SWE-bench Pro 任务:底座模型陷在一个依赖问题上,反复执行同一类命令直到撞上 100 步上限;适配器则用 17 次工具调用写完 schema、验证器和测试,修掉一处 API 错误后通过。
数字上,这层 LoRA 在 OpenCode harness 下的提升相当可观:SWE-bench Pro(hard 51)从底座的 35.3% 提到 51.0%,加 15.7 分;Terminal-Bench 2.1 从 46.4% 提到 52.4%,在未参与挑选 checkpoint 的 66 个任务上提升达 13.6 分(p = 0.035)。
更有意思的是与”思考全开”的对比。底座模型开最高推理强度(xhigh)的思考后,SWE-bench Pro 能到 47.1%、Terminal-Bench 2.1 能到 55.4%;而关掉思考的适配器分别拿到 51.0% 和 53.0%——前者反超,后者差距在噪声范围内。代价的差距才是重点:单任务生成 token 中位数,SWE-bench Pro 上是 31.8k 对 3.9k,Terminal-Bench 2.1 上是 15.8k 对 2.6k,约 6 到 8 倍。模型卡还特意提醒:给适配器开思考”没有显著增益”,白花约 6 倍 token。
省 token 的机制也说得清楚:在两个模型都解出的任务上,适配器轮次只有底座的四分之一到一半(SWE-bench Pro 13 轮 vs 48 轮),每轮之间写约 45 token 的简短推理再精准出手,而不是用大量命令去”探索”。
这套适配器按训练环境命名——pi、OpenCode 各训一个,上周已发布过 pi 版,这次的 OpenCode 版延续了同一配方:750 个 scale800 任务交错 300 个 TermGrade 任务,每套环境配 2 块 B200,奖励来自任务验证器的 correctness 加上一份权重 0.1 的工具效率加成。完整训练配方承诺随发布博文(harness-adapters-at-scale)公开,照着就能给自己的 harness 造一个适配器。
上手门槛不高:vLLM 加 LoRA 直接伺服,或用 PEFT 合并成独立权重(约 54GB BF16),llama.cpp 走 GGUF 版也行;注意保持思考关闭并开启 --mamba-cache-mode align,否则前缀缓存会失效、每一轮都重读全部历史。权重 Apache-2.0,适合想用 27B 本地跑编码 Agent、又被思考模式 token 账单拖累的团队。
模型地址:https://huggingface.co/harness-hub/Qwen3.8-27B-opencode-adapted
更多资讯
想看更多优质内容?
浏览所有资讯