无敏感属性访问下用于公平分类的超参数调优
机器学习
2024-03-22 v2 人工智能
摘要
公平机器学习方法旨在训练在由种族和性别等敏感属性定义的 demographic 子群之间平衡模型性能的模型。尽管通常假设敏感属性在训练期间已知，但由于隐私和其他后勤问题，实践中可能不可用。近期工作试图在训练数据上无敏感属性的情况下训练公平模型。然而，这些方法需要大量的超参数调优才能取得良好结果，因此假设验证数据上敏感属性已知。但该假设也可能不切实际。在此，我们提出 Antigone，一种在训练或验证数据上均无需访问敏感属性即可训练公平分类器的框架。相反，我们通过训练一个有偏分类器并将其错误（正确）标记的样本作为少数（多数）群体的代理，在验证数据上生成伪敏感属性。由于像 demographic parity、equal opportunity 和子群准确率等公平指标即使在有噪声的敏感属性信息下也能估计到比例常数范围内，我们从理论和实证上表明这些代理标签可用于在平均准确率约束下最大化公平性。我们结果的关键在于一种原则性方法，以完全无监督的方式（即无需访问真实敏感属性）选择有偏分类器的超参数，从而最小化使用噪声与真实敏感标签估计的公平性之间的差距。
引用
@article{arxiv.2302.01385,
title = {Hyper-parameter Tuning for Fair Classification without Sensitive Attribute Access},
author = {Akshaj Kumar Veldanda and Ivan Brugere and Sanghamitra Dutta and Alan Mishler and Siddharth Garg},
journal= {arXiv preprint arXiv:2302.01385},
year = {2024}
}