Anticipating Gaming to Incentivize Improvement: Guiding Agents in (Fair) Strategic Classification

随着机器学习算法在不同应用领域越来越多地影响关键决策，理解人类对这些系统作出的战略性反应变得至关重要。我们探讨个体在作出算法决策系统响应时，选择真正提高其资格（“improvement”）而非尝试通过操纵特征来欺骗算法（“manipulation”）的选择。我们进一步研究算法设计者塑造这些战略反应的能力及其公平性影响。具体而言，我们将这些交互建模为一个 Stackelberg 博弈，其中企业部署（公平）分类器，个体作出战略性响应。我们的模型包含对操纵与提高不同成本及随机有效性的考虑。分析结果揭示了不同类型的代理人反应类别，并对最优分类器进行了特征化。基于这些结果，我们识别了（公平）战略政策何时以及为何能够不仅防止操纵，还激励代理人选择提高。我们的发现阐明了企业对算法系统中涉及的微观经济与伦理影响进行战略性预见行为的紧密关联。