公平表示的十年：挑战与机遇
机器学习
2024-07-08 v1
摘要
公平表示学习 (FRL) 是一套广泛的技术，主要基于神经网络，旨在学习去除了敏感或不需要信息的数据新表示。在方法论上，FRL 由 Richard Zemel 等人在大约十年前开创。FRL 方法论的基本概念、目标和评估策略至今保持不变。在本文中，我们回顾了 FRL 的前十年：i) 结合最近深度学习理论中表明在神经网络表示中移除信息存在困难的工作，重新审视其理论基础；ii) 展示一项大规模实验（225,000 次模型拟合和 110,000 次 AutoML 拟合）的结果，该实验旨在改进 FRL 的常见评估场景。更具体地说，我们使用自动化机器学习 (AutoML) 从所谓的公平表示中对抗性地“挖掘”敏感信息。我们的理论和实验分析表明，确定性的、非量化的 FRL 方法在移除敏感信息方面存在严重问题，这尤其令人担忧，因为它们乍看之下似乎是“公平”的。
引用
@article{arxiv.2407.03834,
title = {10 Years of Fair Representations: Challenges and Opportunities},
author = {Mattia Cerrato and Marius Köppel and Philipp Wolf and Stefan Kramer},
journal= {arXiv preprint arXiv:2407.03834},
year = {2024}
}