机器是否会在学习中引入额外偏见？近似公平性模型
机器学习
2024-05-16 v1 计算机与社会
摘要
在为实际世界提供各种机器学习（ML）应用时，关于隐藏在ML模型中的歧视问题日益增长，尤其是在高风险领域。现有的用于评估ML模型歧视水平的技术包括常用的组公平性和个体公平性措施。然而，这两种公平性措施通常难以相互兼容，甚至两种不同的组公平性措施也可能不兼容。为此，我们从流形角度出发，研究评估分类器的歧视水平，提出了一种基于集合间距离的“通过流形实现的谐和公平性度量（Harmonic Fairness Measure via Manifolds, HFM）”。然而，距离的直接计算可能昂贵且不可行，降低了其实际应用性。因此，我们设计了一种名为“集合距离的近似（ApproxDist）”的近似算法，以促进距离的准确估计，并在某些合理假设下展示了其算法有效性。实验结果表明，提出的公平性度量 HFM 是有效的，而 ApproxDist 是有效且高效的。
关键词
引用
@article{arxiv.2405.09251,
title = {Does Machine Bring in Extra Bias in Learning? Approximating Fairness in Models Promptly},
author = {Yijun Bian and Yujie Luo},
journal= {arXiv preprint arXiv:2405.09251},
year = {2024}
}
备注
These two authors contributed equally and are listed in alphabetical order