4
我尝试在 index-tts 的基础上使用 vllm 库重新实现了 gpt 模型的推理，加速了 index-tts 的推理过程，欢迎大家来尝试： https://github.com/Ksuriuri/index-tts-vllm
注：新增了多角色音频混合功能（可以传入多个参考音频），感兴趣可以试玩下
Q
[index-tts]为index-tts的gpt2做了基于vllm的推理加速兼容，RTF约提升300%
A
回答
4
辛苦能提个pr么？
1
辛苦能提个pr么？
好的，这两天抽空整合一下代码
8
没法在windows上使用把
9
没法在windows上使用把
vllm现在好像还不支持windows，折腾点可以上wsl2或者docker~
6
vllm-windows ,Any one confirm this?
7
大佬，请问首token能达到多少ms？