量化在线公共广场面对对抗性操纵策略的脆弱性

社交媒体被一些人视为现代公共广场，易受操纵。通过控制冒充真人的不真实账户，恶意行为者可在目标社群内放大虚假信息。由于收集数据以及开展会影响在线社群的伦理实验存在挑战，此类操作的后果难以评估。在此，我们使用一个社交媒体模型，该模型在经验网络中模拟信息扩散，以量化若干对抗性操纵策略对内容质量的影响。我们发现，具有影响力的账户（社交媒体的一个标志）的存在，加剧了在线社群面对操纵的脆弱性。在坏行为者可采用的可探索策略中，渗透进社群最有可能使低质量内容病毒式传播。此类危害可因不真实代理以低质量却诱人的内容淹没网络而进一步加剧，但当坏行为者聚焦于特定目标（如具有影响力或脆弱的个体）时则得以缓解。这些见解提示了平台可采取的 countermeasures，以提升社交媒体用户抵御操纵的韧性。