StreamDiffusion

StreamDiffusion 是一个面向实时交互式图像生成的扩散模型推理优化框架。它通过流水线级改进（如流式批处理、残差无分类器引导、随机相似性滤波、IO队列与KV缓存预计算）显著提升生成速度，在RTX 4090上实现单步SD-Turbo达106 FPS。项目专为低延迟、高吞吐的交互场景设计，适用于实时AI绘画、视频帧生成、AR/VR内容合成等对响应时效敏感的应用。