通过代理敏感属性标签生成实现实用的偏差缓解
机器学习
2023-12-27 v1 计算机与社会
摘要
解决训练后的机器学习系统中的偏差通常需要访问敏感属性。在实践中，由于法律和政策规定或特定人群的数据不可用，这些属性往往无法获取。现有的偏差缓解算法在现实场景中的适用性有限，因为它们需要访问敏感属性才能实现公平。在这项研究工作中，我们旨在通过提出的无监督代理敏感属性标签生成技术来解决这一瓶颈。为此，我们提出了一种两阶段方法：无监督嵌入生成，随后进行聚类以获得代理敏感标签。我们工作的有效性依赖于一个假设：偏差通过与非敏感属性相关的敏感属性传播，当映射到高维潜在空间时，会产生数据中存在的不同人口群体的聚类。实验结果表明，使用现有算法（如 Fair Mixup 和对抗去偏）在生成的代理标签上进行偏差缓解，与使用真实敏感属性相比，结果相当。
引用
@article{arxiv.2312.15994,
title = {Practical Bias Mitigation through Proxy Sensitive Attribute Label Generation},
author = {Bhushan Chaudhary and Anubha Pandey and Deepak Bhatt and Darshika Tiwari},
journal= {arXiv preprint arXiv:2312.15994},
year = {2023}
}
备注
Modelling Uncertainty in the Financial World (MUFin) Workshop in AAAI2023