nunchaku

Nunchaku 是一个面向扩散模型的高性能 4-bit 量化推理引擎，核心基于 SVDQuant 方法，通过低秩分解吸收权重异常值以提升极低位宽下的精度保持能力。支持 ComfyUI 原生集成、LoRA 微调适配、Z-Image 等主流扩散架构，并兼容 NVIDIA 20 系列及更新显卡。适用于资源受限环境下的本地化文生图部署、边缘端生成式 AI 推理及研究型量化实验。