Load LBM Model
节点中英文对比
Load LBM Model
model
base_precision
load_device
Load LBM Model
model
base_precision
load_device
Load LBM Model - 参数说明
输出参数
model
输出加载完成的LBM模型。
控件参数
model
参数类型:可选参数
使用 torch.compile 加速推理,包含后端、模式、图编译范围等设置。
base_precision
加载时使用的基础精度
默认值: "bf16"
可选:"fp32", "bf16", "fp16"
load_device
模型初始加载所使用的设备(main_device 或 offload_device)。若显存充足可选 main_device,否则建议 offload_device。
默认值:cuda(这里要改一下,可能是KJ大佬笔误写错了)
暂无节点说明