安装推理加速引擎 nunchaku

官方文档

https://github.com/mit-han-lab/nunchaku

Nunchaku 是一款高性能推理引擎，实现了 SVDQuant 量化技术，减少内存消耗的同时，提升了推理速度，并且可以很好地保持视觉保真度。 与 FLUX.1-dev BF16 模型相比，它实现了 3.6 倍的内存减少，8.7 倍的提速。

下载轮子

首先去 此处 下载对应版本的轮子。 下载之后，进行安装即可。

安装

ComfyUI 命令：

.\python_embeded\python.exe -m pip install nunchaku-0.2.0+torch2.6-cp312-cp312-win_amd64.whl