vllm-chatterbox-stream

这是一个基于vLLM加速的开源多语言文本转语音（TTS）服务，提供与OpenAI API兼容的实时PCM音频流式响应。核心采用两阶段架构：T3模型（Llama架构）生成语音token，由vLLM异步引擎支持连续批处理；S3Gen解码器（CosyVoice2流匹配+HiFi-GAN）实时合成24kHz波形。支持23种语言、语音克隆及低首字节延迟（约0.7秒）。适用于需要低延迟、高并发、多语言TTS能力的对话系统、智能客服、AIGC音视频生成等实时交互场景。