Model Compile

节点中英文对比
Model Compile
  • 模型
  • 模型
  • fullgraph
    dynamic
    mode
    Model Compile
  • model
  • MODEL
  • fullgraph
    dynamic
    mode
    Model Compile - 参数说明
    输入参数
    model
    必须参数,输入需要编译的模型对象。
    输出参数
    MODEL
    输出编译后的模型对象
    控件参数
    fullgraph
    是否进行整图编译。 False:只编译必要部分。 True:整个计算图编译(可能带来更好的优化,但风险更高)。
    dynamic
    是否开启动态支持。 False:输入 shape 固定时优化效果最佳。 True:适合输入尺寸变化的场景(如不同分辨率的推理)。
    mode
    "default":默认模式,兼顾稳定性与性能。 "reduce-overhead":降低编译开销,启动更快。 "max-autotune":最大化自动调优,推理更快,但编译耗时更长。 "max-autotune-no-cudagraphs":最大化调优但禁用 cudagraphs,适合某些 GPU 兼容性问题。
    暂无节点说明
    节点列表 首页