
2.3B 参数接管 Windows 端侧:微软 Aion Instruct 将内置进操作系统
微软公开下一代 Windows 端侧小模型 Aion Instruct,2.3B 参数、MIT 许可、支持中文在内的八种语言,官方预告将于 2027 年 1 月底前成为 Windows 系统内置 SLM。
相关标签
2.3B 参数接管 Windows 端侧:微软 Aion Instruct 将内置进操作系统
摘要:微软公开下一代 Windows 端侧小模型 Aion Instruct,2.3B 参数、MIT 许可、支持中文在内的八种语言,官方预告其与内容审核模型将于 2027 年 1 月底前成为 Windows 操作系统内置 SLM。
微软刚刚在 Hugging Face 上放出了 Aion 1.0 Instruct——一个 2.3B 参数的小语言模型,MIT 许可,支持 PyTorch、ONNX 和 GGUF 三种格式。真正值得注意的是模型卡里那句明确的预告:经过进一步优化、并耦合微软内容审核模型的版本,将在 2027 年 1 月底之前成为 Windows 操作系统的 SLM(小型语言模型)。这次开源不是一次普通的模型发布,而是下一代 Windows 内置 AI 的公开预演。
它是什么
Aion Instruct 定位是”Windows 生态的基础小语言模型”,专为端侧 AI、文本与操作系统场景优化。任务类型是指令跟随型文本生成,主打三件事:摘要、改写、对话;训练场景覆盖文档理解、内容分析、问答和自然语言理解。输入输出都是文本,上下文窗口 32,768 token——足够一次读进多页文档、一整条长邮件线程或一份复杂技术规范。核心卖点是”数据不出设备”:所有处理在本地完成,不需要常驻云连接。
语言支持是这次的一个亮点:英语、德语、西班牙语、葡萄牙语、意大利语、法语、中文、日语八种语言开箱可用,多语数据约占训练数据的 6%。训练数据是上一代 Windows 系统 SLM(Phi Silica)所用数据的扩展,并新造了教数学、编码、常识推理与心理理论的合成数据。
架构上它是一个标准的现代小模型:约 2.29B 参数、28 层,注意力用 GQA(24 个查询头、8 个 KV 头),并采用混合注意力——21 层滑动窗口(窗口 2048)加 7 层全注意力,全注意力层用 YaRN ×16 做位置外推,把上下文撑到 32K。词表 200,029,bfloat16 精度。模型用自定义建模代码,加载时需要 trust_remote_code=True,并用 transformers 5.x 导出。
一个容易被忽略的细节:它支持工具调用。通过 chat template 传入工具 schema,模型会以结构化格式输出调用请求——这意味着微软有意让这台端侧小模型承担 Agent 式任务,而不只是问答。
能打多少分
官方评测(EleutherAI lm-evaluation-harness 为主,GPT-4o 做判分):MMLU 55.15、MMLU-Pro 33.35、多语版 MMMLU 45.51、GPQA 28.18、GSM8K 74.91、MATH-500 48.00,指令跟随是强项——IFEval 83.90、Multi-IF 64.70、IFBench 32.00。作为对比参照,这个量级在”摘要、改写、格式化指令”这类操作系统日常任务上是够用的,但官方也把话说在了前面:2.3B 参数意味着会漏细节、复杂多步推理吃力、易受对抗攻击,明确不建议用于医疗诊断、法律判断等关键决策场景。
为什么值得留意
这是微软第一次把”下一代 Windows 系统 SLM”以 MIT 许可完整开源——上一代 Phi Silica 只随系统提供,没有开放权重。模型卡写得很直白:这次发布是为了”让用户提前看到将要到来的东西,并最大化透明度”。后续还会先发未量化版、再发量化版。
对开发者,这意味着两件事:一是可以提前为自己的应用适配这套端侧模型的能力边界与 chat 格式(含工具调用协议),等它内置进 Windows 时迁移成本几乎为零;二是端侧 AI 的竞争格局正在从手机卷到 PC 操作系统层——苹果的 Foundation Models 框架、各家 OEM 的本地助手,加上这次微软的正式换代,”每台电脑自带一个 2B 级 SLM”正在变成默认配置。2.3B、32K 上下文、MIT 许可、中文开箱可用,这台小模型值得放进端侧开发者的候选清单。
模型地址:https://huggingface.co/microsoft/Aion-1.0-Instruct-2.3B
更多资讯
想看更多优质内容?
浏览所有资讯