xDiT

xDiT 是一个面向扩散变换器（DiT）的高性能可扩展推理引擎，专为多设备大规模并行部署设计。它集成多种并行策略（如PipeFusion、统一序列并行USP、CFG并行、并行VAE）和单卡加速技术（编译优化、缓存复用），显著降低长序列Attention的显存与计算开销，支持实时图像/视频生成服务。适用于需要低延迟、高吞吐的云侧AI生成服务、多GPU/多机推理集群及ComfyUI等图形化工作流集成场景。