无偏视觉表示的无监督学习

深度神经网络在存在数据集偏差的情况下往往难以学习鲁棒表示，导致在无偏数据集上泛化性能欠佳。这一局限源于模型严重依赖于在训练过程中无意获取的周边与混淆因素。解决该问题的现有方法通常涉及对偏差属性的显式监督或依赖关于偏差的先验知识。在本研究中，我们应对无可用偏差显式标注且对其性质无先验知识的挑战性场景。我们提出一个全无监督去偏框架，包含三个关键步骤：首先，利用（网络）学习恶性偏差的固有倾向来获取捕获偏差的模型；其次，采用伪标注过程获得偏差标签；最后，应用前沿的有监督去偏技术以得到无偏模型。此外，我们引入一个用于评估模型偏差程度的理论框架，并详细分析偏差如何影响神经网络训练。在合成与真实世界数据集上的实验结果证明了我们方法的有效性，在各种设定下展现出最先进的性能，偶尔甚至超越全监督去偏方法。