Rényi公平推断

机器学习算法已日益部署于直接影响人类生命的关键自动化决策系统中。当这些算法仅被训练以最小化训练/测试误差时,可能基于性别或种族等敏感属性对个体产生系统性歧视。近来,机器学习界涌现大量开发公平机器学习算法的研究。特别地,许多对抗学习过程被提出以施加公平性。遗憾的是,这些算法要么只能施加变量间一阶依赖意义上的公平,要么缺乏计算收敛保证。本文中,我们使用 Rényi 相关作为机器学习模型公平性的度量,并发展了一个施加公平性的通用训练框架。具体而言,我们提出一个在最优求解时平衡准确率与公平性的极小极大公式。对于离散敏感属性的情形,我们给出一种具有理论收敛保证的迭代算法来求解所提极小极大问题。我们的算法与分析随后被专用于差异影响原则下的公平分类与公平聚类问题。最后,所提 Rényi 公平推断框架的性能在 Adult 与 Bank 数据集上得到评估。