简易本地LLM加载器
节点中英文对比
简易本地LLM加载器
model_name_or_path
device
dtype
is_locked
简易本地LLM加载器
model_name_or_path
device
dtype
is_locked
简易本地LLM加载器 - 参数说明
输出参数
model
已加载的大语言模型对象。
tokenizer
模型对应的分词器对象。
控件参数
model_name_or_path
本地模型名称或路径,例如 Llama-3.2-1B-Instruct。通常会从配置好的本地模型目录中读取。
device
模型运行设备。
dtype
模型加载精度。
is_locked
是否锁定模型。设置为true时,加载一次后保持不变。
暂无节点说明