X平台的推荐系统不慎描绘了用户的意识形态位置
社会与信息网络
2026-02-04 v1 人工智能
计算机与社会
摘要
社交媒体中关于推荐的研究主要分析推荐项目的质量(如其多样性或偏见)以及推荐政策的影响(如与纯时间顺序政策的比较)。我们采用数据捐赠计划，收集了超过250万条在X平台上向682名志愿者进行的2.5年友好推荐，以探讨实际推荐系统如何在AI系统的"黑箱"中学习、表示和处理用户的政治和社会属性。利用可获得的X推荐系统架构知识，我们推断了被推荐用户在嵌入空间中的位置。借助依据政治调查数据校准的意识形态尺度，我们分析了我们研究中(在志愿者及其推荐联系人中N=26,509)的用户政治位置及多种属性，包括年龄和性别。我们的结果显示，平台的推荐系统会产生高度与用户左-右政治位置相关的空间排序(Pearson rho=0.887, p-value < 0.0001)，且不能由社会人口学属性解释。这些结果为研究人类与AI系统的交互提供了新的可能性，也引出了与数据隐私法律中算法描绘定义相关的重要问题，因而模糊了主动描绘与被动描绘之间的界限。我们探索了受约束的推荐方法，限制推荐系统中的政治信息，作为一种潜在的隐私合规工具，能够保持推荐的相关性。
引用
@article{arxiv.2602.02624,
title = {Recommender system in X inadvertently profiles ideological positions of users},
author = {Paul Bouchaud and Pedro Ramaciotti},
journal= {arXiv preprint arXiv:2602.02624},
year = {2026}
}