本地LLM加载器

节点中英文对比
本地LLM加载器
  • 模型
  • tokenizer
  • model_name_or_path
    device
    dtype
    is_locked
    本地LLM加载器
  • model
  • tokenizer
  • model_name_or_path
    device
    dtype
    is_locked
    本地LLM加载器 - 参数说明
    输出参数
    model
    加载后的本地LLM模型对象。
    tokenizer
    与模型对应的分词器,用于文本分词和编码。
    控件参数
    model_name_or_path
    模型路径或名称。
    device
    运行设备。
    dtype
    数据类型,用于显存优化。
    is_locked
    是否锁定模型(true:加载后固定不再重新加载,节省运行时间。 false:每次运行可重新加载模型)。
    暂无节点说明
    节点列表 首页