基于实质性机会平等视角的算法回报公平性

算法回报——为受算法系统结果影响不利者提供建议的建议，以便他们采取行动并改变该结果——因赋予个人与人工智能（AI）系统互动中的自主权而受到关注。最近的研究表明，即使AI决策分类器“公平”（根据某些合理标准），回报本身也可能是不公平的，因为个体初始情况的差异会加剧对被边缘化人群的不平等，使他们付出的努力超过其他人。需要定义更多的方法和指标来评估回报中的公平性，这些方法和指标涵盖各种规范世界观，特别是考虑时间的视角。时间是回报中的关键因素，因为个体行动的时间越长，环境可能会因模型或数据漂移而发生变化。本文通过提出两种与实质性机会平等相符合且考虑时间的回报公平性概念来弥补这一研究空白。第一个概念考虑个体在每次成功回报事件中所施加的（often重复的）努力，第二个概念考虑每次成功回报事件的时间。基于用于模拟回报的代理人框架，本文演示了克服初始情况差异所需的努力。我们提出了通过奖励努力来改善回报公平性的干预措施，并与现有策略进行比较。