
1.6 万亿参数只跑 480 亿:美团 LongCat-2.5 让编程 Agent 看得懂截图
原生多模态 MoE:Terminal Bench v4.0 从上代的 3.0 涨到 38.5,专家权重 W4A4 量化后 prefill 吞吐再高 43.3%,MIT 许可开源。
相关标签
写代码的 Agent 已经不少了,但多数只认文本。给它一张设计稿截图、一份带图表的测试报告、或者一个报错弹窗的截屏,它就卡住了——因为它看不见。美团 LongCat 团队开源的 LongCat-2.5 就是冲这道坎去的:1.6 万亿总参数、每 token 只激活约 480 亿的原生多模态 MoE,目标是把”看图”和”动手改整个项目”放进同一个模型里。
它是做什么的
任务类型是 image-text-to-text,图文输入、文本输出,支持 thinking 与 non-thinking 两种模式。实际用法很具体:命令行里当编码 Agent,读一张界面截图就去改仓库里的组件;浏览器操作时看懂页面再点;对着论文里的图表回答问题;或者从一段文字描述生成 Three.js 场景代码。输出可以是代码、工具调用参数、结构化的评估结果。
它对标的是”长程任务”(long-horizon)——不是答一道题,而是把一个需要几十上百步、中间会失败会回滚的活干完。这也是 LongCat-2.0 到 2.5 的主线:2.0 只会写,2.5 开始会看。
跑分涨得最多的正是长程那几项
官方那张表里最扎眼的不是单项最高分,而是同一套基准上 2.0 与 2.5 的落差:Terminal Bench v4.0 从 3.0 直接到 38.5;Program Bench(Almost Resolved)从 2.5 到 25.5;DeepSWE v1.1 从 9.7 到 64.6。这三项考的都不是”会不会写函数”,而是”能不能在一个真实工程里连续做对判断”。
其余几项:PaperBench 82.1、NL2Repo 60.5、SWE Atlas 的代码库问答 58.3 / 重构 55.2 / 写测试 47.8;通用 Agent 侧 BrowseComp 91.9、HLE(带工具)63.1、MCP Atlas 83.1、AutomationBench 51.8、JobBench 65.4;视觉侧 3DCodeBench(Text→3D)55.4、Vision2Web 78.6、CharXiv-RQ(带工具)90.2、MathVision(带工具)96.5、VideoMME 85.2。
值得注意它的标注方式:引自公开技术报告或榜单的分数打星号,未打星的是内部实测、仅供参考,未测的写”-“,评测设置放在可展开的脚注里(Terminal Bench 用 Claude Code harness、512K 序列长度、三次独立运行取平均;DeepSWE 用 mini-swe-agent、1M 序列长度)。自建基准(LongCat AppDev、LongCatClawBench)与公开基准分开列,不混着比。
视觉是原生接进去的,不是外挂
延续 LongCat-Next 的路子,原生分辨率的视觉特征被转成离散 token,与文本在同一个语义空间里对齐——没有单独挂一个视觉编码器再做投影层拼接。好处是模型在处理”图 + 长上下文代码”时不需要在两套表示之间来回翻译。
量化和部署是设计的一部分
LongCat-2.5 对专家权重和激活都做了 W4A4 量化,在国产加速器上跑原生 INT4 计算,靠 FlatQuant 式的可学习变换保持精度。几个关键数字:相比 W8A8 MoE 基线,在线压测下 prefill 吞吐高 43.3%、decode 吞吐高 42.77%、TTFT 低 15.91%、TPOT 低 19.72%;分组 GEMM 内核平均加速 1.73 倍;再叠加 KV cache 量化(W4A4KV8),decode 吞吐比 W8A8KV16 高 92%。
量化的巧妙处在通信:共享的专家输入变换让量化发生在 token 复制和分发之前,同一份 INT4 表示在通信和计算里复用,省掉一次来回搬运。
训练侧也有几处工程细节:长序列 SFT 上每设备吞吐比 DDP 基线高 86%(超节点感知的并行 + 通信计算重叠);多教师学习用全词表 KL 蒸馏加 Tree Attention,让 agent、推理、交互三类教师分别施教;RL 侧把训练与推理的逻辑对齐到 token log prob 逐位一致,KV cache 优化让 decode 容量接近翻倍而不抬高 TPOT。
怎么用
权重 MIT 许可,NPU 部署走 SGLang-FluentLLM 的 longcat-2.5 分支。调用侧兼容 OpenAI 接口,thinking 模式开 enable_thinking=True 并保留全部 reasoning content 效果最好,关掉则省 token。评测里长上下文给到了 512K 到 1M 的序列长度。
一句话总结适用人群:如果你在做需要”看界面 / 看图 / 看文档”才能推进的工程 Agent,而不是纯文本的代码补全,LongCat-2.5 是目前开源侧少有的、把视觉、长程 Agent RL 和国产硬件量化打包在一起的选项。
更多资讯
想看更多优质内容?
浏览所有资讯