做视频需要配音,调用商业语音API要花钱,自己录又总觉得不够自然。能不能让AI用自己的声音念稿,而且不必按量付费?
我最近在X上发现了一个开源项目VoiceStudio,主打本地运行,可以做声音克隆、语音合成、语音识别等工作。
它集成了16个TTS(文本转语音)引擎和11个ASR(自动语音识别)引擎,语言覆盖646种语言。不过,具体支持哪些语言、实际效果如何,还得看所选的模型。

主界面
我花了半天时间测试了一下。就这次的效果来看,用它给短视频配音、录制产品Demo,已经有一定实用价值。整个过程不需要调用商业语音API,适合想降低配音成本、又希望把音频留在本地的开发者。
下面与你分享一下我的安装过程和实际体验。
VoiceStudio本身是一个整合项目,语音合成和识别能力主要来自它调用的模型。首次使用时,需要下载相应的模型。
我这次安装后,下载了四个模型文件,总占用约5.4GB:
k2-fsa/OmniVoice:多语言文本转语音模型,也是本次声音克隆测试的核心。
deepdml/faster-whisper-large-v3-turbo:用于语音识别,将音频转换成文字。
两个sherpa-onnx模型:用于轻量级离线语音处理,包括实时听写和语音活动检测。
这里要注意:5.4GB是我这次安装的实际占用,并不代表所有用户安装后都需要这么多空间。选择不同的引擎和模型,资源需求也会不同。
硬件方面,我使用的是Mac Studio,64GB统一内存,2TB SSD。
VoiceStudio支持Apple Silicon、NVIDIA CUDA等不同运行环境,也提供CPU推理方式。不过,能不能流畅运行、生成速度有多快,取决于具体模型、硬件和运行后端。没有独立显卡也不意味着一定跑不动,只是需要根据实际情况测试。
**还有一点需要说明:**本地运行可以省去商业语音API的调用费用,但不代表整个方案绝对零成本。模型下载需要网络,运行需要硬件资源;项目本身和各个模型的许可证也需要分别确认,尤其是计划商用时。
我先让AI帮我写了一段用于测试的台词,尽量覆盖不同的发音。然后照着念了一遍,录下参考音频。整个过程就是平时说话的状态,没有刻意调整声线。
早上八点半,我从深圳飞往北京。穿过云层时,我想起这些年的项目和朋友。人生就像旅行,重要的不是终点,而是沿途的风景。
接着,我让VoiceStudio参考我的声音,朗读了一篇400多字的口播稿。
这次生成大约花了3分钟。
听完之后,我有两个比较明显的感受。
第一,音色确实比较像。
第一次听的时候,那种熟悉感很明显。如果不刻意去分析细节,确实容易把它当成自己的声音。
第二,语气和停顿还有AI味。
整段音频的断句比较依赖标点,缺少真人说话时自然的轻重缓急。有些地方虽然没有读错,但听起来还是有点平。
这次参考音频只有50字左右,生成的内容却有400多字,两者没法逐句对照,所以我主要评价的是整体听感,而不是逐字还原的准确度。
从实际用途来看,我觉得它比较适合短视频旁白、产品Demo配音,以及一些不需要特别细腻情绪表达的场景。如果要制作长篇有声书,对语气和节奏要求更高,就还需要进一步调试,或者比较其他语音模型的效果。
另外,在我这次测试的模型和配置下,方言表现也不理想。这只是本次测试的结果,不能据此认定VoiceStudio的所有引擎都不支持方言。
除了声音克隆,VoiceStudio还有一个值得尝试的功能:声音设计。
它和声音克隆的区别在于,声音克隆是模仿已有的声音,声音设计则是根据文字描述生成一种声音。
使用声音设计时,不必先录制自己的声音样本。你可以在输入框里描述想要的声音,例如年龄感、音色、语气和表达风格,再生成对应的语音。也可以从预设音色中挑选。
这个功能让我想到一个很实际的场景。
做视频时,找配音最麻烦的有时不是预算,而是找不到自己想要的声音。希望声音沉稳一些,或者年轻、有活力一些,都可以先通过文字描述,再试听生成结果。虽然未必一次就能得到理想效果,但至少能省去一开始四处找人、反复试音的折腾。
当然,文字描述不一定一次就能得到理想的声音,实际效果仍然需要试听和调整。但对于个人创作者来说,这确实多了一种低成本的尝试方式。
这次体验下来,我觉得VoiceStudio最值得关注的地方,不是它能不能完全取代商业语音服务,而是它把声音克隆、语音合成和语音识别等能力整合到了一个本地工具里。
如果你经常制作短视频、录制产品演示,或者想把语音能力接入自己的AIAgent工作流,可以试着部署一套,看看是否符合自己的需求。
不过,如果你追求非常自然的情绪表达,或者准备将生成音频用于商业项目,就不能只看音色像不像,还需要认真评估发音、语气、稳定性以及相关模型的使用许可。
对我来说,这次测试最大的收获,是发现声音克隆已经可以在自己的电脑上跑起来了。以后做视频、录Demo,又多了一种选择,不必什么事情都依赖商业API。
至于它能不能成为日常创作工具,还得看后续实际使用的效果。
附项目地址:https://github.com/debpalash/VoiceStudio
都看到这里了,请随手点赞、转发、关注一下吧!
