算法反馈回路中的涌现不稳定性

辅助人类任务的算法（如推荐系统）无处不在。它们出现在从社交媒体到流媒体视频再到在线购物的方方面面。然而，人与算法之间的反馈回路鲜为人知，并且会放大认知与社会偏见（算法混杂），导致意想不到的结果。在这项工作中，我们通过师生学习模拟探索基于协同过滤的推荐算法中的算法混杂。具体而言，一个在模拟选择上训练的学生协同过滤模型被推荐算法用来向智能体推荐项目。智能体可能根据底层的教师模型选择其中一些项目，新选择随后作为新训练数据反馈给学生模型（近似在线机器学习）。这些模拟展示了算法混杂如何产生错误推荐，进而导致不稳定性，即每次模拟实现之间项目受欢迎程度的大幅波动。我们利用模拟展示一种训练协同过滤模型的新方法，可创造更稳定且准确的推荐。我们的方法具有足够的通用性，可扩展到其他社会技术系统，以更好地量化和改善算法的稳定性。这些结果凸显了需要考虑人与算法交互所涌现行为的必要性。