Hugging Face Blog·· 2026-07-23精选AI 评分62
Diffusers 原生支持 Nunchaku 4-bit 扩散推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Diffusers 现已原生支持 Nunchaku 的 SVDQuant 4-bit 量化推理，加载量化 checkpoint 只需调用 from_pretrained()，无需本地编译 CUDA，也无需单独的推理引擎。
推荐理由
原文给出 Nunchaku Lite 在 Diffusers 中的加载方式、显存与延迟数据，读者可据此判断能否在消费级显卡上跑扩散模型。
来源：Hugging Face Blog · huggingface.co