探索前沿科技:在本地系统上安装和使用Style TTS2进行高质量语音合成

news/2025/3/21 14:15:06/

tts-2">

image.png

我们正处于一个令人激动的时代,有如此多的选择,不仅在大型语言模型方面,还有现在的文本到语音(TTS)模型。在这篇文章中,我将向您展示如何在本地系统上轻松安装这个非常出色的模型——Style TTS2,然后进行语音克隆,或者您可以进行多语音或单语音的文本到语音转换,操作非常简单、快捷,并且具有人类级别的语音质量。

Style TTS2:前沿的文本到语音模型

Style TTS2是一款前沿的文本到语音模型,能够实现人类般的语音合成。这个先进的模型利用了样式扩散和对抗训练以及大型语音语言模型,生成了令人难以置信的自然语音。不像它的前辈们,Style TTS2模型通过扩散模型将样式建模为一个随机变量,使其能够为文本生成最合适的样式,而无需参考语音。这种创新的方法实现了高效的潜在扩散,并从扩散模型提供的多样化语音合成中受益。

此外,大型预训练的语音模型如WaveLM被用作判别器,没有新的可微分的时长建模用于端到端训练,从而提高了语音的自然度。结果非常令人印象深刻,Style TTS2在单一发音者LJSpeech数据集上超越了人类录音,并在多发音者VCTK数据集上与人类录音相匹配,都是由母语为英语的评判者评判的。目前,这个模型在英语方面表现非常出色,但暂时不支持多语言,至少还没有达到同样的人类级别的质量。

在本地系统上安装Style TTS2

现在,让我们尝试在本地系统上安装这个模型,然后看看它是如何工作的。

首先,让我们打开终端。在这里,我运行的是Ubuntu 22.04.1和A6000 GPU。清除屏幕后,激活虚拟环境。

为了运行它,您只需要执行这个命令。这将会第一次下载Docker镜像,然后启动您的软件。如果您有GPU,它还会将模型放到GPU上。如果您只有CPU,也可以运行,但速度会稍慢,但仍然可行。在GPU上,它的速度会非常快,我稍后会展示给您。然后您可以在浏览器中访问它,因为它有一个Gradio图形用户界面。

运行命令后,您会看到它正在加载模型到GPU上。让我们等待一下。您会看到所有内容都已经加载完成,现在它即将启动Gradio演示界面。现在,它正在我们的本地服务器上运行,端口号是7860。如果您更改Docker镜像并克隆它,您甚至可以将其部署到互联网上。

image.png

使用Style TTS2生成高质量语音

打开浏览器,访问本地服务器的7860端口。您会看到这是我们的Gradio演示界面,您可以在本地使用Style TTS2。现在我们可以进行多语音、语音克隆和LJSpeech。让我输入一段文本,然后选择一个语音。这是一个来自美国的男性语音和女性语音,目前似乎只有这两种美国口音的语音可用。这是我将要使用的文本,我选择一个女性美国语音。您会看到这段文本很长,这也是Style TTS2的一个优点,无论您输入多长的文本,它都能给出非常好的响应,但如果只输入一两个字,质量可能不会那么好。

点击合成,看看质量和速度如何。您会看到这么长的一段文本已经生成完毕。播放一下:

完美无缺,真的是人类级别的语音。同样,您也可以选择男性语音来合成。

image.png

语音克隆:让机器模仿真实人声

接下来是语音克隆。例如,如果我使用同样的文本,然后获取一个WAV文件,这是我要克隆的语音。播放一下原始语音,然后看这个文本是否能以这个语音来合成:

这是原始语音,让我们看看这个文本是否能以这个语音来合成。点击合成,看它的速度。

再次播放原始语音,然后播放合成语音:

image.png

LJSpeech数据集上的表现

同样,在LJSpeech数据集上也是如此。如果再运行一次,您会看到它正在合成。播放一下:

如此惊人的效果,令人难以置信。值得注意的是,这个Gradio演示并不是由Style TTS2创建的,而是某个热心人在Hugging Face上分享的,真的要向他致敬。但Style TTS2本身确实非常出色,这是本地、私密、离线安装它的最简单方法,一旦下载完成,您就可以随心所欲地使用它。

结语

在这个充满创新和科技的时代,像Style TTS2这样的模型展示了人工智能和语音合成技术的巨大潜力。无论是个人使用还是专业应用,这样的工具都能带来前所未有的便利和体验。希望本文能帮助您更好地理解和使用这一前沿科技。

关注我,每天一个带你开发一个AI应用,每周二四六直播,欢迎多多交流。

image.png


http://www.ppmy.cn/news/1518709.html

相关文章

实训day29(8.15)

一、python管理mysql 1、搭建主mysql [rootmysql57 ~]# tar -xf mysql-5.7.44-linux-glibc2.12-x86_64.tar.gz [rootmysql57 ~]# cp -r mysql-5.7.44-linux-glibc2.12-x86_64 /usr/local/mysql [rootmysql57 ~]# rm -rf /etc/my.cnf [rootmysql57 ~]# mkdir /usr/local/mysql…

torch、torchvision、torchtext版本兼容问题

1、torch与torchtext版本兼容 参考torchtext PyPI 2、 torch与torchvision版本兼容 参考torchvision PyPI

mac 键盘 设置Ctrl 键 切换下一张

目录 mac系统预览图片 ,切换下一张 mac 键盘 设置Ctrl 键 步骤: mac系统预览图片 ,切换下一张 mac系统按空格预览图片或者视频, 上下左右键进行切换,按宫格视窗,可以进行上下左右切换, 按文…

Java面试题真题·技术面试题部分总结

系列文章目录 Java面试题真题技术面试题部分总结 Java面试题真题非技术面试题部分总结 Java面试题真题项目介绍部分总结 文章目录 系列文章目录前言技术问题Java的跨平台原理String常用方法分布式的优点对cookie有什么了解,Cookie和Session的区别最熟悉jdk哪个版本…

OpenCV绘图函数(2)绘制圆形函数circle()的使用

操作系统:ubuntu22.04 OpenCV版本:OpenCV4.9 IDE:Visual Studio Code 编程语言:C11 算法描述 绘制一个圆。 cv::circle 函数用于绘制一个给定中心和半径的简单圆或填充圆。 函数原型 void cv::circle (InputOutputArray img,Point cen…

进阶SpringBoot之 Shiro(2)环境搭建

Spring Boot 创建 Web 项目&#xff0c;pom.xml 导入 Thymeleaf 依赖 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-thymeleaf</artifactId></dependency> resources 目录下 templates 包新…

C++基础(1)——入门知识

目录 1.C版本更新 2.C参考⽂档&#xff1a; 3.C书籍推荐 4.C的第⼀个程序 5.命名空间 5.1namespace的价值 5.2namespace的定义 5.3 命名空间使⽤ 6.C输⼊&输出 7.缺省参数 8.函数重载 9.引⽤ 9.1引⽤的概念和定义 9.2引⽤的特性 9.3引⽤的使用 9.4const引⽤…

【目标检测】YOLOV3

YOLOv3: An Incremental Improvement 1、YOLO V3 Structure YOLO V3 网络结构借鉴类似 ResNet&#xff08;残差网络结构&#xff09;和 FPN&#xff08;Feature Pyramid Networks&#xff09;网络结构方式。 残差网络&#xff1a;残差网络通过在网络中引入跳跃连接&#xff08…