Model Compile
节点中英文对比
Model Compile
fullgraph
dynamic
mode
Model Compile
fullgraph
dynamic
mode
Model Compile - 参数说明
输入参数
model
必须参数,输入需要编译的模型对象。
输出参数
MODEL
输出编译后的模型对象
控件参数
fullgraph
是否进行整图编译。
False:只编译必要部分。
True:整个计算图编译(可能带来更好的优化,但风险更高)。
dynamic
是否开启动态支持。
False:输入 shape 固定时优化效果最佳。
True:适合输入尺寸变化的场景(如不同分辨率的推理)。
mode
"default":默认模式,兼顾稳定性与性能。
"reduce-overhead":降低编译开销,启动更快。
"max-autotune":最大化自动调优,推理更快,但编译耗时更长。
"max-autotune-no-cudagraphs":最大化调优但禁用 cudagraphs,适合某些 GPU 兼容性问题。
暂无节点说明