即梦AI - 一站式AI创作平台

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计数字人工具

Muyan-TTS是什么?千问下载

Muyan-TTS 是一由北京沐言智语发布的开源、可训练的TTS模型,专为播客而设计,预算控制在 5 万美元以内。Muyan-TTS用超过 100,000 小时的播客音频数据进行预训练,支持零样本 TTS 合成,能够生成高质量语音,还支持通过几十分钟的目标语音进行说话人自适应调整。ai对话无限制

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计.webp

Muyan-TTS模型特点ai对话无限制

  • 大规模预训练:Muyan-TTS 基于 Llama-3.2-3B 模型,使用超过 10 万小时的播客音频数据进行预训练,能够实现零样本文本到语音aiai线上合成,生成高质量的语音。

  • 支持说话人适应:通过几十分钟的目标说话人语音数据,Muyan-TTS 可以进一步适应特定说话人的声音特征,从而实现高度定制化的语音合成。ai对话无限制

  • 架构设计:Muyan-TTS 采用 GPT-SoVITS 的两阶段结构,语言模型部分以 Llama-3.2-3B 为 backbone 继续预训练,解码器部分使用 SoVITS 架构,结合了 LLM 的语义建模能力和 VITS 模型的音素到音素(G2P)特性,有效减少了幻觉现象。下载即梦a i

  • 数据处理:构建了包含超过 100,000 小时高质量语音和对应转录的并行语料库,适用于播客等长音频场景的 TTS 训练。ai线上

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计.webp

开源与训练

  • 开源信息:Muyan-TTS 完全开源,提供了完整的数据收集和处理流程、详细的训练方法以及优化的推理框架。其代码和模型可在 GitHub 上找到。ai数字人直播软件

  • 训练成本:在训练成本方面,假设 A10 和 A100 GPU 的租赁价格分别为每小时 0.5 美元和 1 美元,Muyan-TTS 的总训练成本约为 50,540 美元。国内大模型公司排名

性能表现ai线上

  • 零样本合成:在 LibriSpeech 数据集上,Muyan-TTS 的零样本合成性能表现出色,其词错误率仅次于 CosyVoice2,且平均意见得分高于 Spark-TTS 和 GPT-SoVITS v3。ai线上

  • 监督微调模型:经过监督微调的 Muyan-TTS-SFT 在语音质量和说话人相似度上优于基础模型,但在 WER 上略有下降。数字人工具

  • 推理速度:Muyan-TTS 的推理速度在所有测试模型中最快,仅需 0.33 秒即可合成 1 秒的语音,适合实时语音生成场景。ai下载免费安装

Muyan-TTS应用场景ai下载免费安装

Muyan-TTS 适用于多种音频内容形式,比如主持人旁白、访谈复刻、语音摘要等。兼顾合成质量、个性化能力和运行效率,适合播客等长音频场景。ai大全

限制千问要登录吗

  • 依赖于解码器中的 G2P 模块,需要完整的音素序列才能进行合成,无法实现流式推理。ai线上

  • 训练数据主要为英语,多语言语音合成能力有限。数字人工具

  • 由于训练语料中缺乏指令级标注,Muyan-TTS 目前不支持指令跟随 TTS 任务。千问要登录吗

Muyan-TTS安装与使用ai数字人直播软件

安装步骤滴滴ai

1. 克隆仓库并创建虚拟环境:ai数字人直播软件

git clone https://github.com/MYZY-AI/Muyan-TTS.git
cd Muyan-TTS
conda create -n muyan-tts python=3.10 -y
conda activate muyan-tts
make build

2. 安装 FFmpeg(Ubuntu 系统):千问app官网

sudo apt update
sudo apt install ffmpeg

3. 下载模型:豆包官网网页版入口

  • Muyan-TTS 和 Muyan-TTS-SFT 模型可从 Hugging Face 或 ModelScope 下载。ai人工智能选号

  • 还需要下载 chinese-hubert-base 的权重。数字人工具

  • 将所有下载的模型放在 pretrained_models 目录下。豆包是一个什么软件

使用方法千问是免费软件吗

运行以下命令进行语音合成:ai线上

python tts.py

核心推理代码如下:

async def main(model_type, model_path):
tts = Inference(model_type, model_path, enable_vllm_acc=False)
wavs = await tts.generate(
ref_wav_path="assets/Claire.wav",
prompt_text="Although the campaign was not a complete success, it did provide Napoleon with valuable experience and prestige.",
text="Welcome to the captivating world of podcasts, let's embark on this exciting journey together."
)
output_path = "logs/tts.wav"
with open(output_path, "wb") as f:
f.write(next(wavs))  
print(f"Speech generated in {output_path}")

github仓库:国内大模型公司排名https://github.com/MYZY-AI/Muyan-TTS

收藏
最新工具
豆包工作
豆包工作数字人工具

字节跳动推出的AI办公任务执行工具,支持本地电脑操作、浏览器自动...ai对话无限制

HyCreator影廊
HyCreator影廊豆包是一个什么软件

腾讯一款面向长视频生成的Agent Harness框架,支持端到...国内大模型公司排名

Lanta AI
Lanta AI千问是免费软件吗

一个在线AI视频生成聚合平台,支持文生视频、图生视频与视频转视频...ai人工智能选号

奇快AI
奇快AI滴滴ai

企业级AI视频创作平台,基于Seedance生成电商商品视频、复...豆包官网网页版入口

醒图
醒图ai对话无限制

字节跳动旗下的AI修图软件,支持人像精修、智能抠图、批量调色、老...千问是免费软件吗

豆包专业版
豆包专业版滴滴ai

字节跳动旗下AI助手豆包推出的付费订阅服务,68元标准版即可让A...下载即梦a i

GenApe AI
GenApe AIai大全

一个整合写作、图片与视频创作,提供70多个模板及电商商品图、模特...千问是免费软件吗

Genra AI
Genra AIai对话无限制

对话式AI视频创作平台,支持短剧、广告、TVC 等端到端生成,内...千问app官网

CreatView AI
CreatView AI千问app官网

一款集成 Sora 2、Veo 3.1、Midjourney v...ai大全

库库AI
库库AI千问是免费软件吗

百度推出的全模态AI办公智能体,支持一句话并行生成PPT、Exc...滴滴ai