0.5B 跑出 6338 倍速转写:Reson8 开源的语音识别模型覆盖 45 种语言

0.5B 跑出 6338 倍速转写:Reson8 开源的语音识别模型覆盖 45 种语言

3天前
duguying
4 阅读
来源:HuggingFace

Rumble-2-Flash:0.5B 参数 ASR,Open ASR Leaderboard 英文平均 WER 6.60、RTFx 6338,中文 CER 6.56,vLLM 一条命令起 OpenAI 兼容服务。

相关标签

#HuggingFace#人工智能#语音识别#ASR#开源模型

0.5B 跑出 6338 倍速转写:Reson8 开源的语音识别模型覆盖 45 种语言

语音转写服务按分钟计费的成本,让很多有大量音频要处理的团队望而却步;自托管方案又常常卡在两难——大模型准但慢,轻量模型快但错字率难看。Reson8 发布的 Rumble-2-Flash 试图把两头都占住:0.5B 参数、45 种语言、Apache-2.0 开源,在 Open ASR Leaderboard 上英文赛道平均 WER 6.60、RTFx 6338。

它是做什么的

这是一个自动语音识别(ASR)模型,输入音频、输出转写文本,基于 Qwen3-ASR 架构。音频输入形式相当灵活:本地文件路径、URL、NumPy 数组都行,还支持一次传一批。支持 45 种语言,包括中文和粤语;不指定语言时会自动检测。它适合谁:需要把会议、播客、客服录音批量转成文字的团队,以及想自托管一个 OpenAI 兼容转写接口、按调用量付成本的工程团队。

部署有两条路。Transformers 路线用 AutoModelForMultimodalLM 加载,processor 的一行 apply_transcription_request 就能出结果;vLLM 路线更省事——vllm serve Reson8/Rumble-2-Flash 起服务,然后用 OpenAI SDK 的标准接口传 base64 音频即可,temperature=0 保证转写稳定。

成绩单

Open ASR Leaderboard(2026-11-18 发布的 v1.16.1 版,H200 上用 vLLM 跑)的英文赛道:平均 WER 6.60,RTFx 6338——分数据集看,SPGISpeech 3.08、VoxPopuli 2.43、Voice Arena Monsoon 3.56、Earnings22 6.45,最难啃的 URGENT24(带噪声混响)也有 10.25。RTFx 6338 意味着一小时的音频理论上十几秒就能过一遍,批量处理的吞吐是它最突出的卖点。

多语言方面,中文按 CER 计:FLEURS 5.82、AISHELL-1 7.31,平均 6.56;西班牙语 3.73、意大利语 5.09、德语 5.52、葡萄牙语 6.46、法语 7.21。0.5B 的体量交出这份多语言成绩,在同尺寸段里相当能打。

转写细节可调

几个选项值得注意:digits 控制数字写成阿拉伯数字还是文字(默认数字);filler 默认剔除 “um”、”uh” 这类语气词,设为 true 可保留;verbatim 默认逐字转写,设为 false 会合并重复词——做字幕和做摘要的人对这几个开关的需求正好相反。与体量大得多的转写模型(如 30B 级、带说话人分离的方案)相比,Rumble-2-Flash 不做说话人分离,它的定位就是一件事:快、准、便宜地把声音变成文字。

模型地址:https://huggingface.co/Reson8/Rumble-2-Flash

返回列表

更多资讯

想看更多优质内容?

浏览所有资讯