策略性操纵的差异效应

当重大决策由算法输入提供信息时，个体可能感到有必要改变其行为以获得系统的认可。被称为“策略性操纵”的代理响应性模型，分析了学习器与代理在一个所有代理都能同等操纵其特征以试图“欺骗”已发布分类器的世界中的交互。然而，在现实世界分类的情形中，代理适应算法的能力不仅仅取决于其获得正向分类的个人意愿，而是纠缠于影响其采取特定行动响应能力的复杂社会因素网络之中。在本文中，我们调整策略性操纵模型以捕捉社会不平等设定下可能出现的动态，其中候选群体面临不同的操纵成本。我们发现，每当一个群体的成本高于另一个群体时，学习器的均衡策略会表现出一种强化不平等的现象：学习器错误地接纳优势群体的某些成员，同时错误地排除弱势群体的某些成员。我们还考虑了学习器补贴弱势群体成员以降低其成本从而改善自身分类性能的干预措施的效果。在此我们遇到一个悖论性结果：存在某些情形，提供补贴仅改善了学习器的效用，却实际上使两个候选群体都变得更糟——即便是接受补贴的群体。我们的结果揭示了在代理适应性响应能力不同时，部署试图评估个体“质量”的工具可能带来的不利社会后果。