TowerDebias:基于塔性质的新型去偏方法
机器学习
2025-04-04 v2 人工智能
概率论
应用统计
机器学习
摘要
决策过程日益依赖复杂的机器学习工具,这引发了关于其预测对敏感群体公平性的严重关切。商业"黑箱"模型的广泛采用要求审慎考虑其对消费者的法律和伦理影响。当用户与这类黑箱模型交互时,一个关键挑战出现了:如何减轻或消除种族或性别等敏感属性对其预测的影响?我们提出了towerDebias(tDB),一种旨在减少黑箱模型预测中敏感属性影响的新型后处理方法。我们的tDB方法利用概率论中的塔性质来提高预测公平性,且无需重新训练原始模型。该方法具有高度通用性,因为它不需要原始算法内部结构的先验知识,且适用于多种多样的应用场景。我们为tDB给出了一个形式化的公平性改进定理,并利用多个真实数据集在回归和分类任务上展示了其有效性。
引用
@article{arxiv.2411.08297,
title = {TowerDebias: A Novel Unfairness Removal Method Based on the Tower Property},
author = {Norman Matloff and Aditya Mittal},
journal= {arXiv preprint arXiv:2411.08297},
year = {2025}
}
备注
Completed preprint version. To be submitted for review