因果扩散自编码器：基于扩散概率模型实现反事实生成

扩散概率模型（DPM）已成为高质量图像生成的最先进技术。然而，DPM 具有任意的噪声潜空间，缺乏可解释或可控的语义。尽管在改善图像样本质量方面已有大量研究，但关于使用扩散模型进行表示控制生成的工作却很少。具体而言，使用 DPM 进行因果建模和可控反事实生成是一个尚未充分探索的领域。在本工作中，我们提出 CausalDiffAE，这是一个基于扩散的因果表示学习框架，旨在根据指定的因果模型实现反事实生成。我们的核心思想是使用编码器从高维数据中提取具有高级语义意义的因果变量，并利用反向扩散对随机变化进行建模。我们提出一种因果编码机制，将高维数据映射到因果相关的潜因子，并使用神经网络对潜因子之间的因果机制进行参数化。为了强制因果变量的解耦，我们构建了一个变分目标，并利用先验中的辅助标签信息来正则化潜空间。我们提出一种基于 DDIM 的反事实生成程序，受限于 do-干预。最后，为了解决标签监督有限的情况，我们还研究了当部分训练数据无标签时 CausalDiffAE 的应用，这也使得在推理过程中能够对生成反事实时的干预强度进行细粒度控制。我们通过实验证明，CausalDiffAE 学习到了解耦的潜空间，并能够生成高质量的反事实图像。