Q

[index-tts]IndexTTS2 能否支持单实例多并发？

Python

2025-10-27 48 views 1 likes

6

tts = IndexTTS2() 实例初始化之后，希望能并发调用 tts.infer()。目前 webui.py 中确实是这么写的，但是看了代码感觉并发会有问题，IndexTTS2 对象中实例级别的缓存并没有做并发保护，比如 https://github.com/index-tts/index-tts/blob/bde7d0bdf0bd36a7d6df9783e49c696c6bcc014d/indextts/infer_v2.py#L444-L448 以及 GPT2 的初始 imbedding 也没有并发保护 https://github.com/index-tts/index-tts/blob/bde7d0bdf0bd36a7d6df9783e49c696c6bcc014d/indextts/gpt/model_v2.py#L87-L88 如果要支持多个 infer() 同时在跑，这里是否需要进行改造？

triomino

A

回答

7

同问。另外有大佬部署到生产环境中批量并发使用吗？

zhangstar666

0

我也有这个问题，要在商业使用，并且支持并发。

satiling

8

基于 vLLM 可以实现 gpt 的单实例多并发，但是 BigVGAN 和 mel 谱特征提取（s2mel）这两块如果是单实例的话，应该只能串行执行。

Nietism

1

"我建议您改用： https://github.com/mirbehnam/Chatterbox-TTS-Server-windows-easyInstallation.git （如您所提），根据我的经验，这个方案更优秀、更稳定。这个系统能满足您的期望：

最佳音质：它能提供清晰（clean）的音频输出，就像您在 Mac mini 上使用 v1.5 所获得的那样。
情感控制 (Emotion Control)：您可以轻松控制语音的情感表达（如愤怒、悲伤、快乐等）。
多语言支持：它支持包括 23 种语言在内的多种语言。请尝试使用它，它将对您的工作更有效。"

nzgnzg73