机器学习中的公平性

基于机器学习的系统正广泛触及社会及日常生活的诸多方面。这一现象伴随着对这些技术可能引发的伦理问题的担忧。ML 公平性是一个新近确立的机器学习领域，研究如何确保数据中的偏差与模型的不准确性不会导致模型基于种族、性别、残疾、性取向或政治取向等特征而对个体产生不利对待。在本稿中，我们讨论当前关于公平性的推理及处理公平性的方法中存在的一些局限，并描述作者为应对这些局限所做的一些工作。更具体地，我们展示因果贝叶斯网络如何能在推理和处理公平性（尤其在复杂不公平场景中）发挥重要作用。我们描述如何利用最优传输理论来开发对对应于不同敏感属性的分布的完整形状施加约束的方法，从而克服大多数方法通过施加对这些分布的低阶矩或其他函数的约束来近似公平性诉求的局限。我们提出一个统一框架，涵盖能处理不同设置与公平性准则且具备强理论保证的方法。我们引入一种学习可泛化至未见任务的公平表示的方法。最后，我们描述一种考虑关于敏感属性使用的法律限制的技术。