PractiLight：扩散模型重塑图像照明，无需大规模微调的奥秘

这项研究有一个关键洞察：图像中的光照关系，本质上类似于自注意力机制中的标记交互过程，因此它在自注意力层中能够得到最充分的体现。

论文介绍

对生成式图像进行精细的光线控制，是一项极具挑战性的任务。它不仅涉及全局构图，还深入到频谱层面的细节。现有大多数方法通过在特定领域的大规模数据集上进行训练来解决这一问题，但这往往会限制基础主干网络本身所具备的泛化能力和适应性。而PractiLight则提出了一种实用的新思路，它巧妙地利用了近期对生成模型内部机理的基础理解，来高效地完成这项任务。

研究指出，图像中的光照关系，其本质与自注意力层中不同标记的相互作用高度相似，因此自注意力层自然成为捕捉这种关系的最佳场所。基于这一洞见，并结合关于早期扩散迭代重要性的分析，PractiLight训练了一个轻量级的LoRA回归器，仅需使用一小部分训练图像，即可生成给定图像的直接辐照度图。随后，利用这个回归器，通过分类器引导的方式，将所需的光照效果融入到另一幅图像的生成过程中。这种精巧的设计能够很好地泛化到各种不同的条件与图像领域。该方法在生成质量和控制精度方面都展现了最先进的性能，并且在与现有领先方法的对比中，在多种场景类型上都经过了验证，具备优异的参数和数据效率。这项工作证实，通过利用基础知识，我们可以切实地控制图像的照明，从而实现实用且通用的重新打光。

简述

这项研究的一个主要发现是，大型扩散模型本身就具备对光线传播的深刻理解，无需在数百万张图像上进行微调，即可实现合理的重新照明，从而降低了对大规模泛化数据的需求。为了利用这一先验知识，关键在于仔细考虑在何处（哪个网络层）以及何时（哪个时间步）添加引导信号。这使得我们能够仅在一个小规模的合成数据集上，训练一个微型的回归器来提取直接辐照度图，并利用它来指导生成过程，以非常显著的效果重新照亮图像，同时保持原始图像的辨识度和风格。该方法能够在广泛的图像领域中获得高质量的重新照明结果，只需要很少的额外计算，也无需专门或大规模的数据。

光传输分析

为了研究哪些网络层编码了光传输现象，论文进行了一项特征注入实验：将从重照明图像生成过程中提取的激活信号，注入到原始图像（来自同一场景）的生成过程中。我们发现，光传输效应主要编码在自注意力层中，尤其是在基于UNet的扩散模型（如SD 1.5）的解码器部分。这并不奇怪——我们推测自注意力机制中的多对多交互类似于光传输中的交互，这使得这些层成为编码此类效应的天然场所。从这个意义上说，自注意力可以作为光传输建模的归纳偏置。

验证

我们通过创建一个包含来自不同图像领域的自定义提示图像数据集，来验证我们的方法。将本文的结果与其他最先进的方法进行了比较，并测量了其美观性、控制力、身份一致性以及效率。我们发现我们的方法在所有指标上都极具竞争力。我们进一步进行了一项用户研究，结果表明我们的结果优于其他方法。我们将结果的泛化能力和高质量归功于回归器的小规模训练。