
ComfyUI-GGUF
city96
GGUF Quantization support for native ComfyUI models
AI 简介
这是一个为ComfyUI提供原生GGUF格式模型量化支持的自定义节点扩展。它通过集成llama.cpp流行的GGUF量化格式,使Transformer/DiT类扩散模型(如FLUX)可在低比特率(如Q4_K_M)下高效运行,显著降低显存占用;同时支持量化T5文本编码器加载。项目采用纯Python实现,依赖轻量(仅gguf库),无需修改ComfyUI核心代码,适配Windows/macOS多平台。适用于显存受限的消费级GPU(如8GB显存)上部署高性能文生图模型,尤其适合本地离线推理、模型轻量化实验及边缘设备部署场景。
Python
Apache License 2.03.8k
Stars
321
Forks
30
Watchers
196
Issues
Star 增长
今日0
近 7 天0
近 30 天+35
综合评分63.02
默认分支main