社交媒体影响行动
计算机与社会
2023-09-08 v1 社会与信息网络
摘要
社交媒体平台实现了大体上不受限制的多对多通信。在危机时期，它们为集体意义建构提供了空间，并催生了新的社会现象（例如开源调查）。然而，它们也被威胁行为者用作工具，以开展网络赋能的社会影响行动（CeSIOs），从而塑造舆论并干预决策过程。CeSIOs依赖于使用 sock puppet 账户（虚假身份账户）与真实用户进行在线交流、施加影响并颠覆在线话语。大语言模型（LLMs）可能进一步增强 sock puppet 账户的欺骗特性。近期的LLMs能够生成针对性的、有说服力的文本，其在大多数情况下与人类撰写的内容无法区分——这正是隐蔽影响的理想特征。本文综述了LLMs与影响行动交叉领域的最新进展，总结了LLMs的显著性，并探讨了LLM操控的 sock puppet 账户对CeSIOs的潜在影响。最后，强调了近期的缓解措施。
引用
@article{arxiv.2309.03670,
title = {Social Media Influence Operations},
author = {Raphael Meier},
journal= {arXiv preprint arXiv:2309.03670},
year = {2023}
}