FunASR/README_zh.md at main · modelscope/FunASR

面向离线、流式与边缘部署的工业级语音识别工具箱。
ASR · VAD · 标点 · 说话人 pipeline · 情感与音频事件模型 · OpenAI 兼容服务

快速开始 · Colab · 性能评测 · 模型选择 · 迁移指南 · 场景速览 · 社区集成 · 部署选型 · 部署中心 · 排障 FAQ · 模型列表 · Agent 集成 · 文档 · 贡献

快速开始

不想先配置本地环境？可以打开 Colab 快速体验在浏览器里转写公开样例或上传自己的音频。

pip install torch torchaudio
pip install funasr

如果要运行 GPU quickstart，请先按 pytorch.org 选择与你的 NVIDIA driver 匹配的 PyTorch / torchaudio CUDA wheel，再安装 FunASR。安装后先确认 GPU 可见：

python - <<'PY'
import torch
print(torch.cuda.is_available())
PY

只有这里输出 True 时才使用 device="cuda"；否则请先使用 device="cpu"，或重新安装匹配 CUDA 的 PyTorch wheel。

from funasr import AutoModel
from funasr.utils.postprocess_utils import rich_transcription_postprocess

model = AutoModel(model="iic/SenseVoiceSmall", vad_model="fsmn-vad", spk_model="cam++", device="cuda")
result = model.generate(input="https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/test_audio/asr_example_zh.wav")

# AutoModel pipeline 返回带说话人 id 和时间戳的 VAD 分段：
for seg in result[0]["sentence_info"]:
    print(f"[{seg['start']/1000:.1f}s] 说话人{seg['spk']}: {rich_transcription_postprocess(seg['sentence'])}")

输出 — 带说话人标签、时间戳和标点的结构化文本：

[0.6s] 说话人0: 欢迎大家来体验达摩院推出的语音识别模型

这是一次 AutoModel pipeline 调用，实际组合了 SenseVoiceSmall、FSMN-VAD 和 CAM++ 三个独立模型；说话人分离由 CAM++ 提供，并非 SenseVoiceSmall checkpoint 的内置输出。 SenseVoice 论文见 arXiv:2407.04051，模型见 Hugging Face checkpoint，边缘部署可用 GGUF checkpoint。

LLM 语音识别：Fun-ASR-Nano

Fun-ASR-Nano 是基于 SenseVoice 编码器 + Qwen3-0.6B 解码器的 LLM-ASR，支持中文、英语、日语，以及 7 种中文方言和 26 种地域口音：

from funasr import AutoModel

model = AutoModel(model="FunAudioLLM/Fun-ASR-Nano-2512", vad_model="fsmn-vad", device="cuda")
result = model.generate(input="https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/test_audio/asr_example_zh.wav")

需要 31 语种时，请改用独立的 Fun-ASR-MLT-Nano-2512 checkpoint。Nano 与 MLT-Nano 的语言范围不同，使用时请按 checkpoint 选择。

使用 vLLM 做高吞吐批处理：

from funasr.auto.auto_model_vllm import AutoModelVLLM

model = AutoModelVLLM(model="FunAudioLLM/Fun-ASR-Nano-2512", tensor_parallel_size=1)
results = model.generate(["audio1.wav", "audio2.wav"], language="auto")

部署为 API 服务： funasr-server --device cuda → 本地 OpenAI 兼容接口 localhost:8000

接入 AI Agent： MCP 服务支持 Claude/Cursor · OpenAI API 支持 LangChain/Dify/AutoGen

为什么选 FunASR？

Whisper 是单个模型，FunASR 是一个工具箱——按场景挑模型： Fun-ASR-Nano（中/英/日及中文方言，需 GPU）、 Fun-ASR-MLT-Nano（31 语种）、SenseVoiceSmall（五语种 ASR，并返回情感与音频事件标签）、Paraformer（低延迟流式）。下表展示的是工具箱级能力，并标明由哪个模型或 pipeline 提供：

	FunASR（工具箱）	Whisper	云端 API
最高速度	340 倍实时（Fun-ASR-Nano + vLLM）	13 倍实时	~1 倍实时
说话人识别	✅ 由 VAD + CAM++ pipeline 提供	❌ 需要 pyannote	✅ 额外付费
情感识别	✅ 由 SenseVoice 提供	❌	❌
语言数	取决于 checkpoint（例如 Qwen3-ASR 52、MLT-Nano 31、Nano 中/英/日）	57	因服务而异
流式识别	✅ WebSocket（Paraformer）	❌	✅
CPU 可用	✅ 17 倍实时（SenseVoice）	❌ 太慢	不适用
私有部署	✅ 支持（工具箱 MIT；模型协议各异）	✅ MIT 开源	❌ 仅云端
费用	免费	免费	¥0.04/分钟起

第一次试用 FunASR？可以先跑 Colab 快速体验，再配置本地环境。还不确定先用哪个模型？先看模型选择指南。计划从 Whisper 或云端 ASR 切换？请按迁移指南和评测示例用代表性音频评测、映射功能并安全上线。

性能评测

184 条长音频（共 192 分钟）。完整报告 →

模型	中文 CER ↓	GPU 速度	CPU 速度	对比 Whisper-large-v3
Fun-ASR-Nano（vLLM）	8.20%	340 倍实时	—	🚀 快 26 倍
SenseVoice-Small	7.81%	170 倍实时	17 倍实时	🚀 快 13 倍
Paraformer-Large	10.18%	120 倍实时	15 倍实时	🚀 快 9 倍
Whisper-large-v3-turbo	21.71%	46 倍实时	❌	快 3.4 倍
Whisper-large-v3	20.02%	13 倍实时	❌	基准

一句话： FunASR 在 CPU 上的速度，比 Whisper 在 GPU 上还快。

安装

pip install funasr

从源码安装

git clone https://github.com/modelscope/FunASR.git && cd FunASR
pip install -e ./

环境要求：Python ≥ 3.8、PyTorch ≥ 1.13、torchaudio

模型列表

模型	任务	语言	参数量	链接
Fun-ASR-Nano	识别	中/英/日 + 中文方言	800M	⭐ 🤗 GGUF
Fun-ASR-MLT-Nano	识别	31 种语言	800M	⭐ 🤗
SenseVoiceSmall	识别 + 情感 + 事件	中/英/日/韩/粤	234M	⭐ 🤗 GGUF 论文
Paraformer-zh	识别 + 时间戳	中/英	220M	⭐ 🤗
Paraformer-zh-streaming	流式识别	中/英	220M	⭐ 🤗
Qwen3-ASR	识别，52 种语言	多语言	1.7B	使用
GLM-ASR-Nano	识别，17 种语言	多语言	1.5B	使用
Whisper-large-v3	识别 + 翻译	多语言	1550M	使用
Whisper-large-v3-turbo	识别 + 翻译	多语言	809M	使用
ct-punc	标点恢复	中/英	290M	⭐ 🤗
fsmn-vad	语音检测	中/英	0.4M	⭐ 🤗
cam++	说话人分离	—	7.2M	⭐ 🤗
emotion2vec+large	情感识别	—	300M	⭐ 🤗

使用示例

完整参数文档：教程 →

from funasr import AutoModel

# 中文生产级（VAD + 识别 + 标点 + 说话人）
model = AutoModel(model="paraformer-zh", vad_model="fsmn-vad", punc_model="ct-punc", spk_model="cam++", device="cuda")
result = model.generate(input="https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/test_audio/asr_example_zh.wav", hotword="关键词 20")

# 中/英/日 + 中文方言
model = AutoModel(model="FunAudioLLM/Fun-ASR-Nano-2512", hub="hf", trust_remote_code=True,
                  vad_model="fsmn-vad", vad_kwargs={"max_single_segment_time": 30000}, device="cuda")
result = model.generate(input="audio.wav", batch_size=1)

# 流式实时识别(逐块喂音频)
import soundfile as sf
model = AutoModel(model="paraformer-zh-streaming", device="cuda")
audio, sr = sf.read("speech.wav", dtype="float32")   # 16 kHz 单声道
chunk_size = [0, 10, 5]                               # 每块 600ms
chunk_stride = chunk_size[1] * 960
cache = {}
n_chunks = (len(audio) - 1) // chunk_stride + 1
for i in range(n_chunks):
    chunk = audio[i * chunk_stride : (i + 1) * chunk_stride]
    res = model.generate(input=chunk, cache=cache, is_final=(i == n_chunks - 1),
                         chunk_size=chunk_size, encoder_chunk_look_back=4, decoder_chunk_look_back=1)
    if res[0]["text"]:
        print(res[0]["text"], end="", flush=True)

# 情感识别
model = AutoModel(model="emotion2vec_plus_large", device="cuda")
result = model.generate(input="audio.wav", granularity="utterance")

命令行工具（Agent 友好）

# 转写音频（最简用法）
funasr audio.wav

# JSON 输出（适合 AI Agent 调用）
funasr audio.wav --output-format json

# 生成 SRT 字幕
funasr audio.wav --output-format srt --output-dir ./subs

# 说话人分离 + 时间戳
funasr audio.wav --spk --timestamps -f json

# 指定模型和语言
funasr audio.wav --model paraformer --language zh

# 批量转写
funasr *.wav --output-format srt --output-dir ./output

可用模型：sensevoice（默认）、paraformer、paraformer-en、fun-asr-nano

部署

# OpenAI 兼容 API（推荐）
pip install funasr fastapi uvicorn python-multipart
funasr-server --model sensevoice --device cuda
# → POST /v1/audio/transcriptions，地址 localhost:8000

使用公开样例音频验证服务：

curl -L https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/test_audio/BAC009S0764W0121.wav -o sample.wav
curl http://localhost:8000/v1/audio/transcriptions \
  -F file=@sample.wav \
  -F model=sensevoice \
  -F response_format=verbose_json

# Docker 流式服务
docker pull registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.12

CPU / 边缘部署 - llama.cpp / GGUF（无需 GPU、无需 Python）

在 CPU 和边缘设备上用单个自包含二进制运行 SenseVoice / Paraformer / Fun-ASR-Nano，无需 Python 运行环境，并内置 FSMN-VAD。

# Linux / macOS：在解压后的发布目录中执行
bash download-funasr-model.sh sensevoice ./gguf        # 也可使用 paraformer 或 nano
./llama-funasr-sensevoice -m ./gguf/sensevoice-small-q8.gguf --vad ./gguf/fsmn-vad.gguf -a audio.wav
# -> 欢迎大家来体验达摩院推出的语音识别模型

# Windows PowerShell：在解压根目录执行（需已安装 `hf` CLI）
hf download FunAudioLLM/SenseVoiceSmall-GGUF sensevoice-small-q8.gguf --local-dir .\gguf
hf download FunAudioLLM/fsmn-vad-GGUF fsmn-vad.gguf --local-dir .\gguf
.\llama-funasr-sensevoice.exe -m .\gguf\sensevoice-small-q8.gguf --vad .\gguf\fsmn-vad.gguf -a audio.wav
# 使用 windows-x64-vulkan 包，并安装 AMD、Intel 或 NVIDIA 的当前 Vulkan 显卡驱动：
.\llama-funasr-sensevoice.exe -m .\gguf\sensevoice-small-q8.gguf --vad .\gguf\fsmn-vad.gguf -a audio.wav --backend vulkan
# RTX 30 系列等架构 86 GPU 可使用 windows-x64-cuda 包：
.\llama-funasr-sensevoice.exe -m .\gguf\sensevoice-small-q8.gguf --vad .\gguf\fsmn-vad.gguf -a audio.wav --backend cuda

Linux GPU 用户可下载 funasr-llamacpp-linux-x64-vulkan.tar.gz，在已安装可用 Vulkan driver/ICD 的机器上运行：

./llama-funasr-sensevoice -m ./gguf/sensevoice-small-q8.gguf --vad ./gguf/fsmn-vad.gguf -a audio.wav --backend vulkan

Windows Vulkan ZIP 使用显卡驱动提供的系统 Vulkan loader，不需要另外安装 Vulkan SDK；当前与 Linux Vulkan 包一样，仅加速 SenseVoiceSmall。

当前 Windows CUDA 包面向 CUDA architecture 86。RTX 50 / Blackwell GPU 会报告 compute capability 12.0（sm_120），在专用 CUDA 产物发布前，请使用 CPU 包，或从源码构建并设置 -DCMAKE_CUDA_ARCHITECTURES=120。

预编译二进制： Releases · v0.1.9 · Linux Vulkan tarball · Windows Vulkan zip · Windows CUDA zip · 下载与快速开始： funasr.com/llama-cpp · GGUF 模型： Hugging Face · 文档与评测： runtime/llama.cpp/

OpenAI API 示例 → · Gradio Demo → · 客户端配方 → · JavaScript/TypeScript 配方 → · Kubernetes 模板 → · 工作流配方 → · Postman 集合 → · OpenAPI 规范 → · 安全指南 → · 部署选型 → · 部署文档 → · Agent 集成 →

社区


📖 文档	🐛 问题反馈
💬 讨论	🤗 HuggingFace
🤝 贡献指南	📈 20k 增长计划
🗺️ 仓库职责与路线图	🌐 funasr.com
🧩 社区集成	💡 使用案例

Star 趋势

许可证

本仓库的 FunASR 工具箱源码：MIT License。
预训练模型权重单独授权，请以各模型卡标注的协议为准；模型卡若链接本仓库的 FunASR 模型开源协议，则适用该协议。

引用

@inproceedings{gao2023funasr,
  author={Zhifu Gao and others},
  title={FunASR: A Fundamental End-to-End Speech Recognition Toolkit},
  booktitle={INTERSPEECH},
  year={2023}
}

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

Uh oh!

快速开始

LLM 语音识别：Fun-ASR-Nano

为什么选 FunASR？

性能评测

最新动态

安装

模型列表

使用示例

命令行工具（Agent 友好）

部署

CPU / 边缘部署 - llama.cpp / GGUF（无需 GPU、无需 Python）

社区

Star 趋势

许可证

引用

Uh oh!

FilesExpand file tree

README_zh.md

Latest commit

History

README_zh.md

File metadata and controls

快速开始

LLM 语音识别：Fun-ASR-Nano

为什么选 FunASR？

性能评测

最新动态

安装

模型列表

使用示例

命令行工具（Agent 友好）

部署

CPU / 边缘部署 - llama.cpp / GGUF（无需 GPU、无需 Python）

社区

Star 趋势

许可证

引用