结构性干预与不平等动态

算法公平性文献中的近期讨论对公平性的标准概念提出了若干担忧。首先，约束预测算法以满足公平性基准可能导致弱势群体获得非最优结果。其次，技术干预本身往往效果不佳，尤其是在脱离对社会不平等产生结构性过程的理解时。受这两种批评的启发，我们构建了一个通用的决策模型，并以抵押贷款作为运行示例。我们表明，在某些条件下，除非偏离帕累托最优策略，否则任何决策阈值的选择都将不可避免地延续金融稳定性方面的现有差距。然后，我们对三种不同类型干预的效果进行建模。我们展示了如何根据对外部参数实施结构性变革的难度以及政策制定者对公平或效率的偏好来推荐不同的干预措施。与直觉相反，我们证明了对效率而非公平的偏好可能导致针对资源不足群体的干预建议。最后，我们在一个结合了HMDA和房利美贷款数据的数据集上模拟了干预的效果。这项研究强调了结构性不平等如何通过看似无偏的决策机制得以延续，并表明在许多情况下，技术解决方案必须与外部的、具有情境意识的干预措施相结合，才能实现社会变革。