第三方插件 comfyui_llm_party

简易VLM-GGUF加载器

简易VLM-GGUF加载器 199

节点中英文对比

按当前节点配置,分别展示中文与英文节点结构。

中文节点
简易VLM-GGUF加载器
  • 模型
  • ckpt_path
    clip_path
    max_ctx
    gpu_layers
    n_threads
    is_locked
    英文节点
    简易VLM-GGUF加载器
  • model
  • ckpt_path
    clip_path
    max_ctx
    gpu_layers
    n_threads
    is_locked

    参数说明

    依据当前节点关联的 `NodesItems` 数据展示输入、输出与控件说明。

    输出参数
    模型 model
    已加载的 GGUF 模型对象,可用于多模态推理。
    控件参数
    ckpt_path ckpt_path
    模型的主权重文件路径(.gguf 格式),如 ggml-model-Q3_M.gguf。
    clip_path clip_path
    投影模型文件路径(.gguf 格式),通常与视觉部分相关,例如 mmproj-model-f16.gguf。
    max_ctx max_ctx
    最大上下文长度(即模型能处理的最大 token 数),如 512。值越大显存占用越高。
    gpu_layers gpu_layers
    设置多少层放在 GPU 上,其余在 CPU 上。数值越高 → 推理更快,但显存占用更多。
    n_threads n_threads
    CPU 推理线程数,推荐与 CPU 核心数接近。
    is_locked is_locked
    是否锁定模型,true 表示加载一次后保持不变,避免重复加载。

    详细说明

    结合节点用途、参数和调用方式,给出更完整的说明内容。

    暂无节点说明

    同类节点导航

    继续浏览同一分类下的相邻节点,方便串联学习。