机器学习中的公平性与随机性：统计独立性与相对化
机器学习
2022-11-17 v2 计算机与社会
摘要
公平机器学习致力于防止嵌入社会中的机器学习应用出现不公平现象。尽管存在多种公平性定义和提出的“公平算法”，关于公平性仍有未解决的概念性问题。在本文中，我们剖析了统计独立性在机器学习中常用的公平性与随机性概念中的作用。由此，我们得到一个令人惊讶的假设：在机器学习中，随机性与公平性可被视为等价概念。特别地，通过诉诸 Von Mises 一个世纪前为概率奠定的基础，我们获得了以统计独立性表达的随机性的相对化概念。这一概念在抽象意义上与常用的 i.i.d.-随机性“正交”。利用机器学习中通过统计独立性定义的常用公平性概念，我们随后将数据关于随机性的事前假设与关于公平预测的事后要求联系起来。这一联系被证明富有成效：我们用它论证随机性和公平性本质上是相对的，并且这两个概念都应反映其作为机器学习中建模假设的性质。
引用
@article{arxiv.2207.13596,
title = {Fairness and Randomness in Machine Learning: Statistical Independence and Relativization},
author = {Rabanus Derr and Robert C. Williamson},
journal= {arXiv preprint arXiv:2207.13596},
year = {2022}
}
备注
This paper has been presented at the Philosophy of Science meets Machine Learning Conference in T\"ubingen in October 2022