sglang-omni

SGLang-Omni 是一个面向语音与多模态模型的高性能推理服务框架，专为 TTS（文本转语音）、ASR（自动语音识别）及通用语音/多模态大模型提供低延迟、高吞吐的生产级部署支持。其核心特点包括统一服务接口、流式语音处理能力、共享状态管理、可扩展的编解码器调度机制，以及对 32–48 kHz 高保真音频的原生支持。适用于语音助手、实时字幕生成、AI 音乐合成、智能客服等需要高质量语音 I/O 的工业级 AI 应用场景。