使用插值赋能解耦的公平表示学习
机器学习
2021-10-15 v2
摘要
随着机器学习界解决现实问题的兴趣增长，通过关注公平性并审计这些黑盒模型所作预测，揭示其决策背后隐藏推理已变得关键。在本文中，我们提出一种新方法解决两个关键问题：（a）我们能否同时学习公平解耦表示，同时确保所学表示对下游任务的效用；（b）我们能否提供关于所提方法何时既公平又准确的理论洞见。针对前者，我们提出FRIED方法，即使用插值赋能解耦的公平表示学习（Fair Representation learning using Interpolation Enabled Disentanglement）。在我们的架构中，通过施加基于判别器的对抗框架，我们强制隐空间中插值点更逼真。这有助于有效捕获数据流形并增强所学表示对下游预测任务的效用。我们通过基于分类器的条件互信息估计发展关于公平性-准确性权衡的理论来解决后者问题。我们在不同模态的数据集（表格、文本和图像数据集）上展示了FRIED的有效性。我们观察到，与现有基线相比，FRIED学到的表示整体更公平，且对下游预测任务也准确。此外，我们在真实世界医疗索赔数据集上评估FRIED，开展了专家辅助的模型审计研究，提供了关于阿片成瘾模式的有用洞见。
引用
@article{arxiv.2108.00295,
title = {Fair Representation Learning using Interpolation Enabled Disentanglement},
author = {Akshita Jha and Bhanukiran Vinzamuri and Chandan K. Reddy},
journal= {arXiv preprint arXiv:2108.00295},
year = {2021}
}