借助朋友的帮助：风险控制推荐系统中的集体操纵

推荐系统已成为在线信息的核心守门人，塑造用户在广泛活动领域的行为。作为响应，用户日益倾向于组织和协调，以引导算法结果朝向多样化目标，例如促进相关内容或限制有害材料，依赖平台 affordances——如点赞、评论或评级。虽然这些机制可以 serve 有益目的，但也可能被用于对抗操纵，特别是在此类反馈直接信息安全保证的系统中。在本文中，我们研究了这些 vulnerability 在最近提出的风险控制推荐系统中的情况，这些系统使用二元用户反馈（例如“不感兴趣”）通过保守风险控制来可证明地限制对不受欢迎内容的曝光。我们经验性地演示了它们对聚合反馈信号的依赖使其本质上易受协调性对抗用户行为的影响。我们使用来自大规模在线视频共享平台的数据，显示仅由 1% 用户组成的小型协调团队可通过滥用风险控制推荐系统提供的 affordances，使非对抗用户的 nDCG 下降最高可达 20%。我们评估了需要几乎不依赖底层推荐算法知识的简单、现实的攻击策略，发现尽管协调用户可以显著损害整体推荐质量，但仅凭报告无法选择性地压制特定内容组。最后，我们提出了一种缓解措施，将保证从组层面转移到用户层面，实证表明它可以在确保个体个人化安全的同时，减少对抗性协调行为的影响。