社交机器人检测的十年

2016 年 11 月 9 日早晨，世界醒来面对美国总统大选的惊人结果：唐纳德·特朗普成为美利坚合众国第 45 任总统。这一意外事件至今仍在全球产生巨大影响。如今我们知道，少数社交机器人——模仿人类的自动化社交媒体账号——在传播分裂性信息和虚假信息中发挥了核心作用，可能助推了特朗普的胜利。在 2016 年美国大选之后，世界开始意识到社交媒体中广泛欺骗的严重性。继特朗普的战绩之后，我们目睹了检测与移除机器人的众多努力，与这些恶意行为体对我们社会似乎日益增长的影响之间，出现了刺耳的不谐之音。这一悖论引出一个紧迫问题：我们应采取何种策略以阻止这场社交机器人瘟疫？在当下 2020 年美国大选前夕，该问题显得比以往更为关键。2016 年后令社会、政治和经济分析师震惊的欺骗与自动化，然而自至少 2010 年起便是计算机科学家的研究课题。在本文中，我们简要综述社交机器人检测研究的首个十年。通过纵向分析，我们讨论对抗机器人的研究主要趋势、已取得的主要成果，以及使这场永无止境战斗如此艰巨的因素。利用从我们广泛分析中学到的教训，我们提出可能的创新，以使我们在对抗欺骗与操纵中占据上风。研究社交机器人检测的十年努力，也可为检测和减轻其他更近期的在线欺骗形式（如战略性信息行动和政治巨魔）的影响提供策略参考。