反事实生成网络

神经网络易于学习捷径——它们常常建模简单的相关性，而忽略那些可能具有更好泛化能力的更复杂的相关性。先前关于图像分类的工作表明，深度分类器往往利用与低级纹理或背景的虚假相关性来解决分类任务，而非学习与物体形状的联系。在这项工作中，我们朝着更鲁棒且可解释的分类器迈出了一步，这些分类器显式地暴露任务的因果结构。基于深度生成建模的当前进展，我们提出将图像生成过程分解为独立的因果机制，并在无直接监督的情况下进行训练。通过利用适当的归纳偏置，这些机制解耦了物体形状、物体纹理与背景；因此，它们能够生成反事实图像。我们在 MNIST 和 ImageNet 上展示了我们的模型生成此类图像的能力。此外，我们表明，尽管是合成图像，反事实图像可以在原始分类任务性能轻微下降的情况下改善分布外鲁棒性。最后，我们的生成模型可利用常见的预训练模型作为归纳偏置，在单个 GPU 上高效训练。