VLM本地加载器

节点中英文对比
VLM本地加载器
  • 模型
  • tokenizer(processor)
  • model_name_or_path
    device
    dtype
    is_locked
    type
    VLM本地加载器
  • model
  • tokenizer(processor)
  • model_name_or_path
    device
    dtype
    is_locked
    type
    VLM本地加载器 - 参数说明
    输出参数
    model
    已加载的 VLM 模型对象,供推理节点使用。
    tokenizer(processor)
    文本/图像处理器,用于预处理输入数据(例如将图片编码为 patch embedding)。
    控件参数
    model_name_or_path
    模型路径(本地模型文件目录,例如 E:\MODELS\Llama-3.2-11B-Vision-Instruct)
    device
    运行设备:auto / cuda / cpu / mps。GPU 建议用 cuda。
    dtype
    推理精度:auto(自动)、float16(省显存)、float32(高精度)、bfloat16、int8 / int4(量化)。
    is_locked
    是否锁定模型,避免工作流每次运行都重复加载。一般保持 true。
    type
    模型类型:llama-v、qwen-vl、deepseek-janus-pro。不同厂商的多模态模型需对应选择。
    暂无节点说明
    节点列表 首页