基于矩谱和功率谱的高斯性正则化方法用于文本到图像模型

于红博

摘要: 我们提出了一种新颖的正则化损失，强制执行标准高斯性，鼓励样本与标准高斯分布对齐。这有利于在文本到图像模型的潜在空间中进行优化的一系列下游任务。我们将高维样本的元素视为一维标准高斯变量，并定义一个综合损失，将空间域中基于矩的正则化与谱域中基于功率谱的正则化结合起来。由于矩和功率谱分布的期望值是可以分析得知的，该损失促使符合这些属性。为了确保置换不变性，损失应用于随机置换的输入。值得注意的是，现有基于高斯性的正则化均落入我们的统一框架中：一些对应于特定阶数的矩损失，而先前的协方差匹配损失等同于我们的谱损失，但由于其空间域计算而引起更高的时间复杂度。我们展示了我们的正则化在生成建模中的应用，用于测试时间奖励与文本到图像模型对齐，特别是用于增强美学和文本对齐。我们的正则化优于先前的高斯性正则化，有效地防止奖励破解并加速收敛。

更新时间: 2025-09-18 15:35:34

领域: cs.CV,cs.AI,cs.LG

下载: http://arxiv.org/abs/2509.07027v3