公平框架：超越均等化预测结果的公平性

机器学习（ML）决策算法现已广泛用于预测性决策，例如决定向谁发放贷款。其广泛使用和对个人产生的重大影响促使 ML 界质疑并关切算法如何对不同人群与社区产生差异化影响。在本文中，我们研究当决策者使用偏离描绘决策所处物理与社会环境之模型（预期模型）的模型（代理模型）时所出现的公平性问题。我们还强调了个体对模型访问与利用障碍的影响。为此，我们构建了一个公平框架（Equity Framework），其考量对模型的平等访问、来自模型的平等结果以及对模型的平等利用，并由此实现公平及比当前旨在平等的公平观念更高的社会福利。我们展示了框架三大核心方面如何关联，并提供了一种公平评分算法与一系列问题，以引导决策者走向公平决策。我们展示了未能考量访问、结果与利用将加剧代理鸿沟，导致无限不平等循环，通过不准确且不完整的真实标签策展强化结构性不平等。因此，我们建议更批判地审视模型设计及其对公平的影响，并转向实现公平的预测决策模型。