因正因而得正果:训练不可知网络
机器学习
2019-01-09 v1 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
我们考虑神经网络被要求对图像(或其他输入)进行分类而不隐式利用“受保护概念”的问题,即不应在网络的决策中起任何作用的概念。典型地,这些概念包括诸如性别或种族等信息,或其他诸如图像背景等可能通过与其他变量的未知相关性而隐式反映的上下文信息,使得仅将其从输入特征中移除并不充分。换言之,若那些预测依赖于不应被使用的信息,则准确的预测并不足够:预测性能并非学习系统的唯一重要指标。我们应用一种在域适应背景下开发的方法来应对这一“因正因而得正果”的问题,其中我们要求分类器以完全“不可知”于给定受保护概念(例如性别、种族、背景等)的方式做决策,即使其可能通过未知相关性隐式反映于其他属性中。在定义“不可知模型”这一概念后,我们展示了域对抗神经网络如何利用梯度反转层从模型中移除不需要的信息。
引用
@article{arxiv.1806.06296,
title = {Right for the Right Reason: Training Agnostic Networks},
author = {Sen Jia and Thomas Lansdall-Welfare and Nello Cristianini},
journal= {arXiv preprint arXiv:1806.06296},
year = {2019}
}
备注
Author's original version