基于梯度激活的无偏精确学习

机器学习模型中的偏差缓解势在必行，却充满挑战。虽有若干方法被提出，其中一种缓解偏差的视角是通过对抗学习：使用一个判别器来识别诸如性别、年龄或种族等待考察的偏差属性，并以对抗方式利用该判别器以确保其无法区分这些偏差属性。此类模型的主要缺陷在于，它直接引入了与准确率的权衡，因为判别器认定为对偏差判别敏感的特征可能与分类相关。本工作中我们解决了该问题。我们表明，一个有偏的判别器实际上可用于改善这一偏差-准确率权衡。具体而言，这是通过利用判别器梯度进行特征掩蔽来实现的。我们确保偏向于偏差判别的特征被去强调，而无偏特征在分类中被增强。我们表明这一简单方法能良好地降低偏差并显著提升准确率。我们在标准基准上评估了所提模型。我们在保持甚至改善无偏性的同时提升了对抗方法的准确率，并且也优于其他若干近期方法。