竞争中的人工智能：竞争反馈如何影响机器学习

本文研究竞争如何影响机器学习（ML）预测器。随着 ML 日益普及，企业常部署它来争夺客户。例如，Yelp 等数字平台使用 ML 预测用户偏好并做出推荐。一个被用户更频繁查询的服务（或许因其更准确地预判用户偏好）也更可能获得额外的用户数据（例如以 Yelp 评论的形式）。因此，相互竞争的预测器造成了反馈循环：预测器的性能影响其接收到的训练数据，并随时间偏置其预测。我们引入了一个灵活的竞争 ML 预测器模型，既支持快速实验又具备理论可处理性。通过实证与数学分析，我们表明竞争导致预测器针对特定子群体专门化，代价是在总体人群上性能变差。我们进一步分析了预测器专门化对用户所体验的整体预测质量的影响。我们表明，市场中竞争预测器过少或过多都会损害整体预测质量。我们的理论辅以在多个真实数据集上使用流行学习算法（如神经网络和最近邻方法）的实验。