Qwen3-TTS实现毫秒级语音响应
一套Qwen3-TTS 1.7B CustomVoice实现,在单张英伟达H100上达到每秒10次请求,首段音频P95延迟低于50毫秒,并支持实时播放。项目对比vLLM、SGLang、VoxServe等方案后开源,满负载成本约为每百万字符2美元。
事件进展(1 篇报道)
-
2026-08-21 23:51
一套Qwen3-TTS 1.7B CustomVoice实现,在单张英伟达H100上达到每秒10次请求,首段音频P95延迟低于50毫秒,并支持实时播放。项目对比vLLM、SGLang、VoxServe等方案后开源,满负载成本约为每百万字符2美元。