跳到正文
原文
Hugging Face Blog·· 2026-07-23精选AI 评分72

Diffusers 原生支持 Nunchaku 4-bit 扩散推理并推出 Nunchaku Lite

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 导读

Diffusers 现已通过 Nunchaku Lite 原生加载 Nunchaku 风格的 SVDQuant 4-bit 扩散模型检查点,无需自定义 pipeline、独立推理引擎或本地 CUDA 编译。

推荐理由

文章给出原生加载方式、硬件支持和基准数据,便于在消费级 GPU 上评估 4-bit 扩散推理的显存与延迟取舍。

来源:Hugging Face Blog · huggingface.co