作茧自缚：在表演式预测中模型如何诱发数据偏差

机器学习算法从数据中学习模式的卓越能力也使其能吸收内嵌其中的偏差。有偏差的模型随后可能做出对社会中某些群体造成不成比例损害的决策。大量工作致力于衡量静态 ML 环境中的不公平性，却未关注动态、表演式预测环境——多数真实世界用例运行于其中。在后者中，预测模型本身在塑造数据分布方面起着关键作用。然而，极少有研究将这些交互与不公平性联系起来。因此，为增进对此类设置中不公平性的理解，我们提出一种刻画数据偏差的分类法，并研究由模型行为塑造偏差的案例。以真实世界的开户欺诈检测案例研究为例，我们研究了表演式预测中两类典型偏差——分布偏移与选择性标签问题——对性能与公平性的危害。