以人工智能武装公众以对抗社交机器人

社交媒体在我们日常生活中重要性的提升，伴随着操纵线上对话与舆论的种种企图。欺骗性社交机器人——旨在冒充真人的自动化或半自动化账号——已被成功用于此类滥用行为。研究人员对此的回应是开发 AI 工具，以武装公众投身对抗社交机器人的斗争。本文综述有关不同类型机器人、其影响及检测方法的文献。我们以 Botometer（印第安纳大学开发的流行机器人检测工具）为案例，阐明人们如何与 AI 对策交互。一项用户体验调查表明，对许多用户而言，机器人检测已成为社交媒体体验的有机组成部分。然而，解读 AI 工具输出时的障碍可能导致根本性的误解。开发复杂机器人与有效对策的机器学习方法之间的军备竞赛，使得更新检测工具的训练数据与特征成为必要。我们再次以 Botometer 案例说明机器人评分在算法与可解释性两方面的改进，这些改进旨在满足用户预期。最后，我们讨论未来 AI 发展可能如何影响恶意机器人与公众之间的较量。