4
我遇到一个vllm推理error的问题，我把index-tts-vllm做成api接口然后请求，有些时候我请求index-tts-vllm的api接口时会有下面的报错。但是奇怪的是它会先成功返回推理生产的音频文件，然后报错。生成的音频时长大概是2分钟，文字大概是900个字。
Q
[index-tts]vllm.engine.async_llm_engine.AsyncEngineDeadError vllm推理报错
A
回答
5
标记如何通过 vllm 或 sglang 进行访问？
2
不是应该去index-tts-vllm那边问么？官方这边没有vllm支持.