构建韧性信息生态系统：大规模 LLM 生成的说服攻击数据集
计算机与社会
2025-11-26 v1 人工智能
摘要
组织的沟通对于建立公众信任至关重要，但生成式 AI 模型的兴起已引入重大挑战，通过快速大规模地生成具有说服力的内容，这些内容可能与政府和商业组织发布的官方信息形成竞争性叙事。这使机构陷入被动局面，往往不了解这些模型如何构建其说服策略，从而更难维持沟通效果。本文介绍了一个大型 LLM 生成的说服攻击数据集，包含由 GPT-4、Gemma 2 和 Llama 3.1 对机构新闻生成的 134,136 个攻击。这些攻击涵盖 SemEval 2023 任务 3 中的 23 种说服技术，针对来自十个机构的 972 篇新闻稿。生成的攻击包含两种媒介：新闻稿声明和社交媒体帖子，涵盖长篇和短篇沟通策略。我们分析了这些说服攻击的道德共鸣，以了解其攻击向量。GPT-4 的攻击主要聚焦于关怀（Care），权威（Authority）和忠诚（Loyalty）也发挥作用。Gemma 2 强调关怀和权威，而 Llama 3.1 则以忠诚和关怀为中心。分析 LLM 生成的说服攻击将有助于主动防御，为组织创建声誉盾牌，并推动信息生态系统中有效且韧性沟通的发展。
引用
@article{arxiv.2511.19488,
title = {Building Resilient Information Ecosystems: Large LLM-Generated Dataset of Persuasion Attacks},
author = {Hsien-Te Kao and Aleksey Panasyuk and Peter Bautista and William Dupree and Gabriel Ganberg and Jeffrey M. Beaubien and Laura Cassani and Svitlana Volkova},
journal= {arXiv preprint arXiv:2511.19488},
year = {2025}
}