
8.8B 压过 31B:TwIL-8B 数学拿 98.2,Q4 只占 4.98 GiB
从 granite-4.2-8b 强化学习而来的 8.8B 推理模型 TwIL-8B:MATH-500 98.2、LiveCodeBench 81.6,Q4 量化只有 4.98 GiB,小显存就能跑。
相关标签
8.8B 的数学,压过 31B
MATH-500 上,TwIL-8B 拿到 98.2。作为参照,Qwen3.5-9B 是 96.6,Gemma 4 31B 是 87.9——一个 8.79B 的模型,比四倍体量的对手高出 10 分。
TwIL-8B 的选择很明确:不做全能选手,只把数学、代码和指令遵循这三件事练到极致。它从 IBM 的 granite-4.2-8b 出发,先做全参数监督微调,再叠 GRPO/DAPO 强化学习,发布时给了两个共享同一套架构和分词器的变体——balanced(默认,推理链更短、单题成本更低)和 verbose(难题更准,链更长)。推理格式是标准的 <think>…</think>。输入是英文文本,输出是带推理过程的答案。
分数是怎么来的
数学上它领先三个项目:MATH-500 98.2、AIME 2025 88.3,在对比表里都是最高;AIME 2026 88.3,落后 Qwen3.5-9B 的 92.5 四分。四个公开竞赛的平均分与 Qwen3.5-9B 相差不到 0.4 分,互有胜负——HMMT Nov 2025 领先 3.8,HMMT Feb 2026 落后 3.0。
代码是更大的亮点:LiveCodeBench 81.6,压过 Gemma 4 31B 的 80.0 和 Gemma 4 12B 的 72.0,比 Qwen3.5-9B 的 65.6 高出 16.0 分,距离 GPT-5.5、Claude Opus 4.8、Grok 4.3 只差 2.9 到 6.2 分。HumanEval 93.2、HumanEval+ 88.3、MBPP 93.7、CRUXEval 97.1,都在同级前列。
指令遵循是第三个长板:IFBench 74.4,比 Qwen3.5-9B 高 9.9,也高于 Claude Opus 4.8 12.2 分;IFEval 91.8 与 Qwen3.5-9B 基本持平。IFEval 上它其实落后 Gemma 4 12B(97.2)和 31B(98.9)不少,模型卡没有回避这一点。
成本端也有说法:AIME 2026 每题平均输出 19.5k token,Qwen3.5-9B 要 31.2k,省 38%;HMMT Feb 2026 是 32.9k 对 40.6k。不过和前沿闭源模型比它仍然啰嗦——GPT-5.5 解同一题大约只用 5k token。
它不是知识模型
模型卡里有一句自我限定写得很干脆:”It is not a knowledge model.“GPQA Diamond 70.2,比 Qwen3.5-9B 低 11.5 分、比 Gemma 4 31B 低 14.1 分;MMLU-Pro 76.5、HLE 12.6,同样是这个走向。语言只有英文,也没有在 Granite 4.2 之外加额外的安全或偏好对齐。
所以它的适用场景很窄也很清楚:需要硬推理的数学题、竞赛题、代码题,以及对指令格式要求严格的批处理任务。要问百科、要中文、要多轮闲聊,它不是合适的选择。
4.98 GiB 就能跑起来
底座是 Granite 解码器架构的稠密 Transformer:40 层、hidden size 4096、32 个注意力头配 8 个 KV 头、词表 100,352、上下文 131,072 token。8.79B 参数在 bf16 下是 16.38 GiB,Q4_K_M 的 GGUF 只有 4.98 GiB——CPU 或小显存 GPU 都能跑,两个变体各有对应的量化文件。
调用方式没什么特别:from_pretrained("webAI-Official/TwIL-8B") 加载的是 balanced,要 verbose 就传 subfolder="verbose"。
需要留意统计口径:带 † 的分数(LiveCodeBench、IFBench、MMLU-Pro、HLE、HumanEval 等)是在 verbose 变体上测的,balanced 尚未跑过;竞品分数取自各自公开数据,没有重跑。跨模型比较时,这层差别值得记住。
小模型的竞争焦点正在从”通用分数多高”转向”单位算力能换到多少推理能力”。TwIL-8B 是这条路线上一个边界划得很清楚的样本:放弃知识面、锁定英文,把 8.8B 的预算几乎全押在数学和代码上——换来的是能在游戏本上跑出接近前沿的解题能力。
更多资讯
想看更多优质内容?
浏览所有资讯