基于参数化积分概率度量的公平表示学习
机器学习
2023-01-12 v4 机器学习
摘要
由于 AI 算法对社会决策具有重大影响，其不仅应准确而且应公平。在各类公平 AI 算法中，学习公平表示（LFR）旨在针对性别、种族等敏感变量找到公平表示，已受到广泛关注。对于 LFR，如生成对抗网络类算法那样，常采用对抗训练方案。然而，判别器的选择是启发式地、无依据地进行的。本文提出一种新的 LFR 对抗训练方案，其中使用了具有特定参数化判别器族的积分概率度量（IPM）。所提 LFR 算法最显著的结果是其关于最终预测模型公平性的理论保证，这是此前未被考虑的。即，我们推导了表示的公平性与构建于该表示之上（即使用该表示作为输入）的预测模型的公平性之间的理论关系。此外，通过数值实验，我们表明所提 LFR 算法计算更轻量、更稳定，且最终预测模型具有竞争力或优于使用更复杂判别器的其他 LFR 算法。
引用
@article{arxiv.2202.02943,
title = {Learning fair representation with a parametric integral probability metric},
author = {Dongha Kim and Kunwoong Kim and Insung Kong and Ilsang Ohn and Yongdai Kim},
journal= {arXiv preprint arXiv:2202.02943},
year = {2023}
}
备注
28 pages, including references and appendix