第三方插件
comfyui_llm_party
LLM-GGUF加载器
节点中英文对比
按当前节点配置,分别展示中文与英文节点结构。
中文节点
LLM-GGUF加载器
model_path
max_ctx
gpu_layers
n_threads
is_locked
英文节点
LLM-GGUF加载器
model_path
max_ctx
gpu_layers
n_threads
is_locked
参数说明
依据当前节点关联的 `NodesItems` 数据展示输入、输出与控件说明。
输出参数
模型
model
已加载的 GGUF 模型对象,可与推理/聊天节点配合使用。
控件参数
model_path
model_path
指定 GGUF 格式模型文件绝对路径。
max_ctx
max_ctx
上下文长度(最大可处理的token数)。值越大,能记住的上下文越多,但显存/内存占用更高。
gpu_layers
gpu_layers
指定多少层模型放到 GPU,其余在 CPU 上运行。适合显存有限时进行分配。
n_threads
n_threads
CPU 推理时的线程数。多核CPU可以提高速度,建议设置为物理核心数。
is_locked
is_locked
是否锁定模型:
- true:加载一次后保持固定
- false:允许动态切换模型。
详细说明
结合节点用途、参数和调用方式,给出更完整的说明内容。
暂无节点说明
同类节点导航
继续浏览同一分类下的相邻节点,方便串联学习。