模型与技术

OmniVoice:小米开源的 600 多语言声音克隆模型

OmniVoice 由小米研究团队开发,代码通过 k2-fsa 组织发布。它首先解决的是“支持语言太少”的问题:官方论文覆盖 600 多种语言,并用一套零样本流程把参考音色带到新的文本中。对于小语种内容,语言覆盖本身往往比再多一个英文声音更重要。

小米 · k2-fsa 开源项目资料核对日期
官方 GitHub
研发机构
论文署名:Xiaomi Corp.
语言范围
600 多种语言
输出采样率
24 kHz
使用方式
Python、命令行、Gradio;开源自部署

值得关注的优势

01

一套模型服务大量语言

论文采用非自回归扩散语言模型路线,直接预测多码本声学 token,减少传统两阶段生成链路的复杂度,重点面向超多语言扩展。

官方来源 [2]
02

参考声音可以保存后复用

从短录音建立 voice clone prompt 后,可以保存到文件,下次加载时跳过重复读取音频和自动转写步骤,适合固定角色或长期旁白。

官方来源 [1]
03

纠音与非语言声音可直接标记

支持中文拼音纠音、英文音素标注,以及笑声、叹息等非语言符号;也可以设置语速或目标时长,而非只能接受默认节奏。

官方来源 [1]

复刻、声音设计和自动选声

复刻模式输入参考音频及对应文本;没有提供文本时,可以用 Whisper 自动转写。声音设计则通过性别、年龄、音高、口音等属性组合描述新声音。

官方说明模型主要以声音克隆任务训练,设计模式的训练数据集中在中英文本,二者的稳定性和适用范围需要分别判断。

官方来源 [1]

跨语言复刻保留什么

官方建议使用 3~10 秒清晰参考录音。跨语言复刻可能带入原录音语言的口音;如果目标是标准发音,优先用与目标文本相同语言的参考音频。

官方来源 [1]

使用与部署

  1. 准备 Git、uv 和适合设备的 PyTorch 环境;官方提供 NVIDIA、Apple Silicon 与 Intel XPU 相关安装说明。
  2. 克隆仓库并执行 uv sync,同步依赖后启动 Gradio。首次运行需要下载模型权重,模型 ID 为 k2-fsa/OmniVoice。
  3. 验证短句复刻后,再尝试命令行批处理或 Python API;生成语音时使用与参考音频一致的转写文本更便于检查问题。
OmniVoicebash
git clone https://github.com/k2-fsa/OmniVoice.git
cd OmniVoice
uv sync
uv run omnivoice-demo --ip 127.0.0.1 --port 8001

使用前需要了解

  • 600 多种语言是覆盖范围,不等于每种语言拥有相同的音质、发音准确率或口音还原能力。
  • 官方的推理速度数据有指定设备和推理设置,不能直接换算成普通电脑或线上服务的固定完成时间。

适合什么场景

适合多语言本地化、低资源语言探索、固定音色复用,以及希望自行掌控推理环境的团队。

官方资料与出处

  1. k2-fsa/OmniVoice · READMEhttps://github.com/k2-fsa/OmniVoice
  2. OmniVoice · Technical paperhttps://arxiv.org/abs/2604.00688
  3. k2-fsa/OmniVoice · Model weightshttps://huggingface.co/k2-fsa/OmniVoice

DS Speech 当前提供 Qwen-Audio-3.0-TTS 在线功能;资料库中其他模型的介绍、命令和链接用于帮助读者了解与自行部署。

继续了解其他模型

Qwen-Audio-3.0-TTS用自然语言塑造语气、情绪与方言IndexTTS 1.5稳定中英文复刻与中文多音字纠音IndexTTS 2同一音色,独立调整情绪表现VoxCPM连续语音表示、上下文表达与高采样率输出