第三方插件
ComfyUI-FramePackWrapper
Torch Compile Settings
用于配置 PyTorch 的 torch.compile 编译参数,用于 FramePack 视频模型加载时对其指定的模块进行 JIT 编译,以优化推理速度Torch Compile
节点中英文对比
按当前节点配置,分别展示中文与英文节点结构。
中文节点
Torch Compile Settings
backend
fullgraph
mode
dynamic
dynamo_cache_size_limit
compile_single_blocks
compile_double_blocks
英文节点
Torch Compile Settings
backend
fullgraph
mode
dynamic
dynamo_cache_size_limit
compile_single_blocks
compile_double_blocks
参数说明
依据当前节点关联的 `NodesItems` 数据展示输入、输出与控件说明。
输出参数
torch_compile_args
torch_compile_args
Torch 编译配置参数集合,用于模型加载器。
控件参数
backend
backend
指定 torch.compile 使用的后端优化引擎。inductor 是最常用的 JIT 编译后端,推荐使用;cudagraphs 更适合静态图。需根据硬件和模型选择。
fullgraph
fullgraph
是否启用完整图模式。若为 True,则要求模型是完整图结构,优化幅度更大,但对动态模型不友好。建议默认关闭。
mode
mode
torch 编译模式,控制优化策略。
优化策略。 - default: 默认配置;
- max-autotune: 最大性能自动调优;
- max-autotune-no-cudagraphs: 禁用 cudagraphs 的最大调优版本;
- reduce-overhead: 优化启动性能,适用于短模型。建议从 default 开始测试。
dynamic
dynamic
是否启用动态形状支持。如果模型输入尺寸会变,建议启用。否则可关闭以获得更高性能。
dynamo_cache_size_limit
dynamo_cache_size_limit
设置 Torch Dynamo 的缓存大小上限。
compile_single_blocks
compile_single_blocks
是否对单层 block 进行编译。推荐开启,可以减少显存压力,提高模块复用。
compile_double_blocks
compile_double_blocks
是否对双层 block(Transformer 结构)进行编译。推荐开启,对大型模型如 Transformer 特别有效。
详细说明
结合节点用途、参数和调用方式,给出更完整的说明内容。
暂无节点说明
同类节点导航
继续浏览同一分类下的相邻节点,方便串联学习。