通过元正交化去除卷积神经网络偏差
机器学习
2020-11-17 v1 人工智能
计算机视觉与模式识别
计算机与社会
摘要
尽管深度学习模型常取得强劲的任务性能，但其成功受限于无法将虚假相关与因果因素解耦，例如当它们利用受保护属性（如种族、性别等）做决策时。本文中，我们解决此类情形下卷积神经网络（CNNs）的去偏问题。基于已有的词嵌入去偏与模型可解释性工作，我们的元正交化方法鼓励不同概念（如性别与类别标签）的 CNN 表征在激活空间中彼此正交，同时保持强劲的下游任务性能。通过多种实验，我们系统性地测试了该方法，表明其显著缓解了模型偏差，并与当前的对抗去偏方法具有竞争力。
引用
@article{arxiv.2011.07453,
title = {Debiasing Convolutional Neural Networks via Meta Orthogonalization},
author = {Kurtis Evan David and Qiang Liu and Ruth Fong},
journal= {arXiv preprint arXiv:2011.07453},
year = {2020}
}
备注
Accepted to NeuRIPS 2020 Workshop on Algorithmic Fairness through the Lens of Causality and Interpretability (AFCI). Supplemental materials provided at: https://drive.google.com/drive/folders/1klIAqZDgg3sCVmzFjLw5Y_T-GTc2E3oh?usp=sharing