第三方插件 comfyui_llm_party

LLM-GGUF加载器

LLM-GGUF加载器 186

节点中英文对比

按当前节点配置,分别展示中文与英文节点结构。

中文节点
LLM-GGUF加载器
  • 模型
  • model_path
    max_ctx
    gpu_layers
    n_threads
    is_locked
    英文节点
    LLM-GGUF加载器
  • model
  • model_path
    max_ctx
    gpu_layers
    n_threads
    is_locked

    参数说明

    依据当前节点关联的 `NodesItems` 数据展示输入、输出与控件说明。

    输出参数
    模型 model
    已加载的 GGUF 模型对象,可与推理/聊天节点配合使用。
    控件参数
    model_path model_path
    指定 GGUF 格式模型文件绝对路径。
    max_ctx max_ctx
    上下文长度(最大可处理的token数)。值越大,能记住的上下文越多,但显存/内存占用更高。
    gpu_layers gpu_layers
    指定多少层模型放到 GPU,其余在 CPU 上运行。适合显存有限时进行分配。
    n_threads n_threads
    CPU 推理时的线程数。多核CPU可以提高速度,建议设置为物理核心数。
    is_locked is_locked
    是否锁定模型: - true:加载一次后保持固定 - false:允许动态切换模型。

    详细说明

    结合节点用途、参数和调用方式,给出更完整的说明内容。

    暂无节点说明

    同类节点导航

    继续浏览同一分类下的相邻节点,方便串联学习。