ABSoft
  • Java
  • Go
  • MySQL
  • Python
  • Javascript
  • ChatGPT
  • All Tags
  • 登录
  • 注册
  1. 首页
  2. 问答
  3. [index-tts]针对gpt2推理较慢的问题,有什么优化计划吗?
Q

[index-tts]针对gpt2推理较慢的问题,有什么优化计划吗?

  • index-tts
2025-10-28 198 views 0 likes 
0

0xCAFEBABE0

A

回答

0

同问

abc19921

4

我基于本项目使用vllm加速了gpt2的推理过程:https://github.com/Ksuriuri/index-tts-vllm 目前从RTF来看大约加速了300%

Ksuriuri

相关问题
  • [index-tts]index-tts Windows安装教程
  • [index-tts]English hyphen misread as "minus" in Chinese | 英文连字符错读成中文“减”
  • [index-tts]你们的产品支持AMD显卡吗?
  • [index-tts]我的显卡是4090感觉速度没有完全发挥出来
  • [index-tts]RuntimeError: CUDA error: device-side assert triggered
  • [index-tts]请问vocab文件中的数字列是什么意思
  • [index-tts]越跑越卡?
  • [index-tts]Fast版本遇到一些标点符号会重复前面的文字
  • [index-tts]报错怎么办 assert offset + size < self.max_len
  • [index-tts]适配1.5版本模型,优化Webui,适配新版本transformers
  • © 2025 WWW.ABSOFT.CN
  • 皖ICP备2021002917号-1