通过解耦不良数据生成组件实现程序公平
计算机与社会
2024-05-13 v3 人工智能
机器学习
摘要
我们揭示并解决一个常被忽视却重要的问题——伪装的程序不公平,即数据生成过程中中性(即无问题)方面行为可能被无意改变,和/或缺乏对最不利者最大利益的程序保障。受约翰·罗尔斯对纯粹程序正义倡导的启发,我们将自动化决策视为社会制度的缩影,并考量数据生成过程本身如何满足程序公平的要求。我们提出一个框架,利用参考点及关联的价值实例化规则,将不良数据生成组件与中性组件解耦。我们的发现凸显防范伪装程序不公平的必要性,不仅引起对我们意图缓解的不良数据生成组件的关注,更关键的是,也指向我们意欲保持不受影响的中性组件。
引用
@article{arxiv.2311.14688,
title = {Procedural Fairness Through Decoupling Objectionable Data Generating Components},
author = {Zeyu Tang and Jialu Wang and Yang Liu and Peter Spirtes and Kun Zhang},
journal= {arXiv preprint arXiv:2311.14688},
year = {2024}
}