理解还是操纵：重新审视现代推荐系统在线性能增益的来源

推荐系统被期望成为无需显式查询即可自动帮助人类用户找到相关信息的助手。随着推荐系统的演进，日益复杂的学习技术被应用，并在点击量和浏览时长等用户参与度指标上取得了更好的性能。然而，被测性能的提升可能有两种归因：更好地理解用户偏好，以及更主动地利用人类有限理性诱使用户过度消费的能力。一个自然的后续问题是，当前的推荐算法是否在操纵用户偏好。若是，我们能否度量操纵程度？本文提出一个通用框架，用于在石板推荐和序列推荐场景下对推荐算法的操纵程度进行基准测试。该框架包含四个阶段：初始偏好计算、训练数据收集、算法训练与交互，以及涉及两个所提指标的指标计算。我们在所提框架下，于合成与真实世界数据集上对一些代表性推荐算法进行了基准测试。我们观察到，高在线点击率未必意味着对用户初始偏好的更好理解，而是导致促使用户选择更多其初始不喜欢的文档。此外，我们发现训练数据对操纵程度有显著影响，且建模能力更强的算法对此类影响更为敏感。实验也验证了所提指标在度量操纵程度上的有用性。我们主张，未来的推荐算法研究应被视为带用户偏好操纵约束的优化问题。