一、文生图 vs 图生图(InstantID)
|
|
7-3 文生图 |
7-4 图生图 |
|---|---|---|
|
latent 来源 |
Empty Latent Image |
VAE Encode(参考图) |
|
denoise |
1.0 |
0.5–0.7 |
|
构图 |
Prompt + kps 为主 |
参考图构图 + Prompt |
|
适用 |
全新场景、新姿势(kps 控制) |
在参考构图上改场景/风格 |
本章 无 VAE Encode,参考图 只提供脸(及默认 kps),不进入 latent 底图。
二、核心节点清单
|
节点 |
作用 |
|---|---|
|
SDXL 基模 |
|
|
参考脸图 |
|
|
InstantIDModelLoader |
加载 ip-adapter.bin |
|
InstantIDFaceAnalysis |
InsightFace |
|
ControlNetLoader |
instantid ControlNet |
|
正负 Prompt |
|
|
ApplyInstantID |
核心 |
|
文生图画布 |
|
|
denoise=1.0 |
|
|
VAEDecode / Save Image |
出图 |
三、搭建步骤
步骤 1:基模与 Prompt
-
Load Checkpoint选 SDXL(如 AlbedoBaseXL); -
两个
CLIP Text Encode:
正向:1person, same person, outdoor park, casual clothes, sunny,
masterpiece, best quality, highly detailed
负向:different person, wrong face, deformed face, bad anatomy,
blurry, low quality, watermark
负向含 different person, wrong face 有助于抑制换脸。
步骤 2:InstantID 三支路
-
InstantIDModelLoader→ip-adapter.bin -
InstantIDFaceAnalysis→ provider CPU/CUDA -
ControlNetLoader→instantid/diffusion_pytorch_model.safetensors
步骤 3:参考脸
-
Load Image→ 清晰 正脸 参考; -
IMAGE →
ApplyInstantID的 image 输入; -
image_kps 留空 → 默认用 同一张图的关键点(姿势跟参考图一致倾向)。
步骤 4:ApplyInstantID
连线:
|
输入 |
来自 |
|---|---|
|
instantid |
InstantIDModelLoader |
|
insightface |
InstantIDFaceAnalysis |
|
control_net |
ControlNetLoader |
|
image |
Load Image(脸) |
|
model |
Checkpoint MODEL |
|
positive / negative |
CLIP Text Encode |
|
image_kps |
可选,7-5 再接 |
widgets:weight 0.85,start 0,end 1。
输出 MODEL'、POSITIVE'、NEGATIVE' → KSampler。
步骤 5:Empty Latent + KSampler
-
Empty Latent:1024×1024(或 1016×1016);
-
KSampler:
|
参数 |
建议 |
|---|---|
|
denoise |
1.00 |
|
steps |
28–30 |
|
cfg |
4.5 |
|
sampler |
dpmpp_2m + karras |
步骤 6:Decode 与保存
VAE Decode → Save / Preview。
四、数据流 ASCII
[脸图] → [FaceAnalysis] ──┐
[ip-adapter] [instantid CN] → [ApplyInstantID] ← [Checkpoint MODEL/CLIP/Prompt]
↓ MODEL', COND'
[Empty Latent] ─────────────────────────────→ [KSampler denoise=1] → [Decode] → Save
五、参数调优
|
现象 |
调整 |
|---|---|
|
不像参考人 |
weight ↑ 0.85–0.9;换更清晰脸图 |
|
脸「烧」、过锐 |
weight ↓;CFG ↓ 4;Advanced 加 noise 0.35 |
|
不像 Prompt 场景 |
CFG 略 ↑;Prompt 加强场景词 |
|
姿势总像参考图 |
正常(kps 同源);要换姿势见 7-5 |
|
多人脸乱 |
裁剪单人脸作参考;Advanced combine 策略 |
六、Prompt 策略
-
主体:
1person, same person+ 场景/服装; -
不要 详细描述一张 新脸(与 InstantID 冲突);
-
场景、光、服装 交给 Prompt;
-
脸 交给 InstantID。
七、与 cubiq 官方工作流
可导入:
-
ComfyUI_InstantID/examples/InstantID_basic.json
对照节点与本节步骤;本仓库 7-4 在其基础上加 VAE Encode 图生图。