简易本地LLM加载器

节点中英文对比
简易本地LLM加载器
  • 模型
  • tokenizer
  • model_name_or_path
    device
    dtype
    is_locked
    简易本地LLM加载器
  • model
  • tokenizer
  • model_name_or_path
    device
    dtype
    is_locked
    简易本地LLM加载器 - 参数说明
    输出参数
    model
    已加载的大语言模型对象。
    tokenizer
    模型对应的分词器对象。
    控件参数
    model_name_or_path
    本地模型名称或路径,例如 Llama-3.2-1B-Instruct。通常会从配置好的本地模型目录中读取。
    device
    模型运行设备。
    dtype
    模型加载精度。
    is_locked
    是否锁定模型。设置为true时,加载一次后保持不变。
    暂无节点说明
    节点列表 首页