混合机器人:通过社交媒体上的身份欺骗进行渗透
人机交互
2024-06-11 v1 社会与信息网络
摘要
机器人是自动化的社交媒体用户,可用于放大(错误)信息并传播有害言论。为了有效影响用户,可以生成机器人来模仿人类用户行为。事实上,人们倾向于信任来自具有他们期望存在的角色刻板印象(例如具有性别角色刻板印象的用户)的配置文件的信息。在这项工作中,我们研究了人类和机器人账户配置文件中身份类型的差异,重点关注代表性别角色刻板印象的身份组合。我们发现某些类型的身份可以区分人类和机器人配置文件,证实这种方法可以用于区分社交媒体上的人类和机器人账户。然而,与我们的预期相反,我们揭示出总体上人类账户中的性别偏见比机器人账户更明显。尽管总体上性别偏见较少,但我们提供了机器人配置文件中与性别身份有强烈关联的身份示例,例如与技术、金融、体育和星座相关的身份。最后,我们讨论了设计建设性社交媒体机器人检测培训材料的意义。
引用
@article{arxiv.2406.05246,
title = {Blended Bots: Infiltration through Identity Deception on Social Media},
author = {Samantha C. Phillips and Lynnette Hui Xian Ng and Kathleen M. Carley},
journal= {arXiv preprint arXiv:2406.05246},
year = {2024}
}
备注
19 pages, 3 figures