推荐系统中的放大悖论

对推荐系统的自动化审计发现，盲目遵循推荐会使用户走向日益党派化、阴谋论或虚假的内容。与此同时，使用真实用户轨迹的研究表明，推荐系统并非极端内容关注的主要驱动者；相反，此类内容主要通过其他途径（如其他网站）触达。本文解释如下明显悖论：若推荐算法偏好极端内容，为何未驱动其消费？通过一个简单的基于智能体模型，其中用户对推荐系统中的条目赋予不同效用，我们通过模拟表明，推荐系统的协同过滤本质与极端内容的小众性可化解该明显悖论：尽管盲目遵循推荐确实会使用户走向小众内容，但用户在可选时很少消费小众内容，因其对用户效用低，这可导致推荐系统对该类内容去放大。我们的结果呼吁对“算法放大”的细致解读，并凸显在审计推荐系统时对用户内容效用建模的重要性。代码见：https://github.com/epfl-dlab/amplification_paradox。