跨群体追索权均等化

机器学习辅助决策的兴起引发了人们对决策公平性以及减轻歧视问题技术的关注。如果对个体做出了负面决策（如拒绝贷款、拒绝住房申请等），正义要求我们能够询问如何改变境况以便下次获得有利决策。此外，改变境况的能力（更好的教育、更好的资质）不应仅限于那些能够获得昂贵资源的人。换言之，负面决策的追索权应被视为一种可欲的价值，并可在（按人口统计学定义的）群体间实现均等化。本文描述了如何构建既能做出准确预测，又能确保负面结果的代价不会不成比例地使不同群体处于不利地位的模型。我们将追索权衡量为个体到分类器决策边界的距离。然后，我们引入一个正则化目标，以最小化群体间追索权的差异。我们探索了线性设定，并进一步将追索权扩展到非线性设定以及无法计算到边界精确距离的模型无关设定。结果表明，我们能够成功地减少追索权方面的不公平性，同时保持分类器性能。