Updated: 4/9/2024
欢迎!在本指南中,让我们探索 ComfyUI IPAdapter Plus 的激动人心的特性,也称为 ComfyUI IPAdapter V2。
IPAdapter 模型非常适合用于图像到图像的条件生成,可以轻松地将参考图像的主体或风格迁移到新的创作中。可以将其视为单图 LoRA。
IPAdapter Plus (IPAdapter V2) 的推出带来了大量新功能,旨在简化模型集成过程,提高可用性,并扩展创作可能性。
请注意,升级到 ComfyUI IPAdapter Plus (IPAdapter V2) 将导致依赖 ComfyUI IPAdapter V1 节点的之前工作流出现故障。因此,您需要使用 ComfyUI IPAdapter Plus 重建项目。
我们将介绍:
如果您有兴趣探索 ComfyUI IPAdapter Plus (IPAdapter V2) 工作流,请使用以下 ComfyUI 网页。它配备了所有必要的自定义节点和模型,无需手动设置即可实现无缝创作。立即开始获得实践经验,或继续本教程以了解如何有效使用 IPAdapter Plus。
"IPAdapter" 节点的 "Model" 和 "IPAdapter" 输入连接到 "IPAdapter Unified Loader" 节点的输出。在这里,您可以从各种 IPAdapter 模型中选择,每个模型都针对不同的要求进行了定制:
"IPAdapter" 节点的 "Image" 输入是用于图像到图像条件生成的参考图像。这是 "IPAdapter" 节点应用其变换能力的地方,根据定义的参数和模型的功能改变参考图像。通过此过程,生成新图像,继承参考图像的属性并将其与 IPAdapter 模型的创意潜力相结合。
使用 "Attn Mask",您可以突出显示特定的图像区域以进行重点处理或引导模型的注意力,增强或保留某些图像特征,同时引导模型的关注点。
"Weight" 参数调整应用修改的强度;值越高,效果越明显,而值越低,变化越微妙。
"Start At" 和 "End At" 参数决定应用 IPAdapter 效果的初始和最终步骤,控制处理过程。
应用权重通过处理阶段的 "Weight Type" 各不相同,每种类型都以独特的方式影响输出:
使用 SDXL 模型时,IPAdapter Plus 模型可无缝集成并自动适应 SDXL 模型的特性。但是,必须适当调整潜在大小以符合 SDXL 模型的要求。
通过 "Image Negative"、"CLIP Vision"、"Combine Embeds" 等参数和更多的 "Weight Type" 选项,ComfyUI IPAdapter Advanced 节点提供了更全面的功能集,增强了对生成过程的控制,使图像更接近您的创作愿景。
"Image Negative" 参数使您能够定义不希望出现在最终图像中的内容。通过指定反面例子,引导模型远离不需要的元素,朝向更理想的结果。此功能对于避免生成的图像中出现特定主题、对象或模式至关重要,确保输出符合您的偏好。
在 "IPAdapter Advanced" 节点中,您会找到 "CLIP Vision" 输入。它连接到 "Load CLIP Vision" 节点的输出,在那里您可以从不同的 CLIP-ViT 模型中进行选择。
CLIP-ViT-H-14-laion2B-s32B-b79K.safetensors 和 CLIP-ViT-bigG-14-laion2B-39B-b160k.safetensors 的主要区别在于它们的大小和潜在的复杂性处理能力,后者拥有 390 亿个参数,比前者的 320 亿个参数更大,表明它可以解释比前者更细微的文本-图像关系。
与 "IPAdapter" 节点相比,"IPAdapter Advanced" 节点提供了更多 "weight type" 选项,每种类型都以独特的方式影响输出:
对于那些希望将来自多个源的输入合并到单个连贯视觉输出中的人来说,"Combine Embeds" 功能至关重要。通过利用 "Combine Embeds",您可以灵活地制作融合广泛艺术影响和灵感的图像,从而创作出真正个性化和创新的作品。提供的合并嵌入方法,如 Concat、Add、Subtract、Average 和 Norm Average,为合并这些影响提供了不同的方法。这些将在第 4 节 "ComfyUI IPAdapter 图像合并功能" 中详细探讨。
在上面提到的配置中,您可能已经注意到缺少 FaceID 模型。要将 Face ID 模型集成到您的工作流程中,需要两个特定的节点:"IPAdapter Unified Loader FaceID" 节点和 "IPAdapter FaceID" 节点。
在 "IPAdapter Unified Loader FaceID" 节点中工作时,您可以从可用模型的下拉菜单中选择最新的 "Face ID Plus V2"。此操作指示加载器自动收集和准备 Face ID Plus V2 模型所特有的所有必要依赖项。
选择 CPU 作为提供程序。尽管可能有高性能 GPU 可用,但建议将 Face ID 模型配置为使用 CPU 作为其提供程序。这一建议源于保留宝贵视频 RAM (VRAM) 的好处,这一策略被证明是有利的,有助于优化项目资源分配的整体效率和有效性。
如何使用多个参考图像生成新图像?以下是使用 ComfyUI 的 IPAdapter Plus 实现这一目标的两种方法,为您提供创意图像生成所需的灵活性和控制力。
要开始使用 "Batch Image" 节点,您必须首先选择要合并的图像。然后将这些图像输入节点,创建统一的批次。随后将此批次引入 IPAdapter 管道,依次将每个图像应用于生成过程。
"IPAdapter Advanced" 节点引入了 "Combine Embeds" 选项,为您提供了复杂的控制,可以控制多个图像如何影响生成。这些选项—Concat、Add、Subtract、Average 和 Norm Average—决定了如何合并来自不同图像的嵌入,每种选项都会产生独特的结果:
在下图中,通过使用不同的 "Combine Embeds",您将获得不同的结果。
对于那些希望更精细地控制参考图像在最终图像中的权重的人,IPAdapter 通过使用 "IPAdapter Encoder" 节点和 "IPAdapter Combine Embeds" 节点提供了解决方案。
合并过程中的每个图像都通过 IPAdapter 编码器节点进行处理,该节点对图像进行编码以与 IPAdapter 兼容。在 "IPAdapter Encoder" 节点中,用户可以为每个图像分配特定的权重,决定它们对合并输出的影响。调整这些权重可以细致地控制每个图像在合成中的主导程度或细微程度。
在对图像进行编码并设置权重后,"IPAdapter Combine Embeds" 节点将合并它们的编码表示。它结合了编码器节点的正嵌入,反映了每个图像对合并输出的预期影响。这种平衡的嵌入随后准备进行合成。
合成的嵌入最终由 IP Adapter 处理以生成新图像。尽管连接负嵌入是可选的,但建议这样做以节省计算资源。通过从编码器节点中选择任意两个负嵌入并将其链接到 IPAdapter 节点,可以优化该过程,最大限度地减少不必要的计算并简化合并过程。
通过遵循这些方法,您可以有效地合并多个图像以生成新的创意合成,充分利用 ComfyUI IPAdapter Plus 的功能!
在处理高图像时,您可能会遇到一个独特的挑战:IPAdapter 框架的核心组件 CLIP Vision 编码器天生更喜欢正方形图像。当直接将高图像连接到 IPAdapter 节点时,这种偏好可能会导致裁剪问题,通常只有图像的中心部分会影响输出。因此,图像的顶部和底部部分可能会被忽略,影响生成内容的整体质量。
为了解决这个问题,"IPAdapter Tiled" 节点提供了量身定制的解决方案。它允许直接连接高图像,通过将图片分割成较小的、可管理的图块来处理。这种方法确保在生成过程中考虑到参考图像的每个部分,避免了部分图像被忽略的问题。
"IPAdapter Tiled" 节点的另一个特点是瓦片和掩码输出,它提供了图像处理方式的可视化表示。此功能显示使用的特定瓦片及其相应的掩码,让您深入了解生成过程的内部工作原理。了解图像如何被分割和处理可以帮助您做出明智的调整以实现预期的结果。
此外,"IPAdapter Tiled" 节点允许自定义掩码调整,为突出或集中高图像的特定部分提供了灵活性。通过定制这些掩码,您可以将更多注意力引导到高图像的特定元素上,从而增强对结果的控制。当需要强调或最小化图像中的某些方面时,此功能非常宝贵,确保生成的内容与您的愿景完全一致。
因此,将 "IPAdapter Tiled" 节点纳入 ComfyUI IPAdapter Plus 显著提高了您处理涉及高图像的图像到图像条件生成项目的能力。
如何使用 ComfyUI IPAdapter Plus 操纵和组合参考图像的风格和构图来创建新的、引人注目的视觉效果。ComfyUI IPAdapter Plus 为艺术家和设计师提供了一套强大的工具来进行实验,包括将一个图像的风格迁移、保持另一个图像的构图,甚至将不同参考图像的风格和构图合并到一个图像中的能力。
要使用 ComfyUI IPAdapter Advanced 节点将参考图像的风格(如单图 LoRA)迁移到目标内容上,请按照以下步骤操作:
设置 "IPAdapter Advanced" 节点:首先将 "IPAdapter Advanced" 节点纳入您的工作流程。
配置节点:在 ComfyUI IPAdapter Advanced 节点的设置中,找到 "Weight Type" 选项。使用下拉菜单选择 "Style Transfer (SDXL)"。此配置指示适配器将参考图像的视觉样式优先迁移到目标。
调整风格迁移 "Weight":"weight" 设置决定风格迁移的强度。增加此值会放大参考风格对目标图像的影响,使效果更加明显。
要在生成新图像的同时保留参考图像的构图,您还将使用 ComfyUI IPAdapter Advanced 节点,但使用不同的设置:
设置 "IPAdapter Advanced" 节点:如前所述,将 IPAdapter Advanced 节点添加到您的工作流程中。
配置节点:从 "Weight Type" 下拉菜单中选择 "Composition (SDXL)"。这会指示适配器在新生成中保持参考图像的构图元素。
调整构图 "Weight":修改 "weight" 设置以影响新图像对参考构图的遵从程度。权重越高,新图像就越严格地强制执行参考的构图。
对于需要同时迁移一个图像的风格和另一个图像的构图的项目,"IPAdapter style & composition SDXL" 节点提供了一个简化的解决方案:
选择 "IPAdapter Style & Composition SDXL" 节点:将此专门的节点添加到您的项目中,以同时处理风格和构图迁移。
加载风格和构图参考:"IPAdapter Style & Composition SDXL" 节点允许两个输入,一个用于要迁移风格的图像,另一个用于要保留构图的图像。相应地加载两个参考。
为风格和构图配置 "Weights":"IPAdapter Style & Composition SDXL" 节点为风格和构图提供了单独的权重设置。调整这些权重以平衡每个参考对最终图像的影响。为风格或构图设置较高的权重会在生成的图像中优先考虑该方面。
通过遵循这些步骤并尝试不同的设置,您可以利用 ComfyUI IPAdapter Plus 创建视觉上令人惊叹的图像,将一件艺术品的独特风格与另一件作品的精心构图融合在一起。
如果您有兴趣探索 ComfyUI IPAdapter Plus (IPAdapter V2) 工作流,请使用以下 ComfyUI 网页。它配备了所有必要的自定义节点和模型,无需手动设置即可实现无缝创作。立即开始获得实践经验!
© 版权 2024 RunComfy. 保留所有权利。