FP8 / GGUF 与低显存方案

一、为什么需要低显存方案？

思路：减小模型占用 + 减小中间张量（分辨率/batch）+ 优化加载方式。

二、量化与 FP8

2.1 什么是量化？

用 更低精度（如 8 bit）存储权重，换取 更小显存 与 更快速度，可能略有质量损失。

2.2 FP8

• FP8 常指 8-bit 浮点权重版本；

• Flux、SDXL 等常有社区 FP8 safetensors；

• 文件名常含 fp8、FP8。

2.3 在 ComfyUI 中使用

• 与普通 Checkpoint 相同，放入 models/checkpoints/（或模型指定目录）；

• 用 对应架构的 Loader（Flux FP8 需 Flux 工作流）；

• 若提供 UNETLoader + FP8 分离加载，按模板连线。

2.4 预期

三、GGUF

3.1 是什么？

GGUF 原为 llama.cpp 生态的量化格式；在图像模型领域，社区有 GGUF 版 UNet / 完整包，面向 极低显存 或 CPU 辅助场景。

3.2 ComfyUI 中使用

• 需 专用 Custom Nodes（如 GGUF Loader 类，名称随社区更新）；

• 文件放作者指定目录，常见仍在 models/unet/ 或 checkpoints/；

• 工作流多为 UNet(GGUF) + 独立 CLIP + VAE，而非单一 CheckpointLoader。

3.3 适用

• 6GB 以下跑 Flux / 大 SDXL；

• 能接受安装额外节点与专用模板。

3.4 注意

• 安装与更新快，以节点 GitHub README 为准；

• 与标准 Checkpoint 工作流 不直接互换。

四、Turbo 类模型（Z-Image Turbo 等）

4.1 特点

• 极少 steps（4–8 步）出可用图；

• 常与 蒸馏 / 轻量架构 相关；

• 适合 草图、试 Prompt、批量筛选。

4.2 工作流差异

• 使用 专用模板（ComfyUI 内置 Templates 或社区 JSON）；

• cfg、scheduler 常与 SD 不同，勿照搬 SDXL 参数；

• 可与 5-2 Z-Image 章节对照。

4.3 质量权衡

• 最终交付可能仍需 SDXL/Flux 高 steps 或 放大 + 修复；

• Turbo 省时间，不等于省所有后期。

五、ComfyUI 启动与运行时省显存

5.1 启动参数（示例，以官方文档为准）

在便携版或启动脚本中添加。

5.2 工作流层面

5.3 Tiled VAE

大分辨率 Decode 时，部分节点支持 Tiled VAE，分块解码防 OOM。

六、方案选型表

七、FP8 vs GGUF vs Turbo 对比

可 组合：Turbo FP8 + lowvram + 低分辨率。

八、常见问题