统一对抗不变性
机器学习
2019-09-09 v2 机器学习
摘要
我们提出一个用于监督神经网络的统一不变性框架，它能在不使用任何干扰因素标注的情况下诱导数据干扰因子的独立性，此外还可利用关于偏置因素的标注信息来强制将其从潜在嵌入中移除，从而做出公平预测。对干扰因子的不变性通过预测任务与重构任务之间结合解耦的竞争训练学习数据的拆分表示来实现，而对偏置因子的不变性则通过若潜在嵌入包含任何关于它们的信息就惩罚网络来达成。我们描述了该框架的一个对抗式实例并分析其工作机制。我们的模型在不使用此类变量的任何标注信息的情况下，在诱导对干扰因子的不变性上优于先前工作，并在公平设定下学习对偏置因子的独立性方面达到最先进性能。
引用
@article{arxiv.1905.03629,
title = {Unified Adversarial Invariance},
author = {Ayush Jaiswal and Yue Wu and Wael AbdAlmageed and Premkumar Natarajan},
journal= {arXiv preprint arXiv:1905.03629},
year = {2019}
}
备注
In submission to T-PAMI. Some results updated. arXiv admin note: substantial text overlap with arXiv:1809.10083