通过意见扰动和大型语言模型放大社交分裂
社会与信息网络
2025-11-03 v1
摘要
我们研究了针对性内容注入如何策略性地破坏社交网络。使用Friedkin-Johnsen（FJ）模型，我们提出了社交分裂度度量，证明：（i）简单FJ变体无法显著扰动网络；（ii）扩展模型可构建有效图结构，其中平衡时的扰动超过初始状态；（iii）改变个体固有意见可最大化扰动。基于这些洞见，我们设计了强化学习框架，用于微调大型语言模型（LLM）以生成面向扰动的文本。在合成数据和真实世界数据上的实验表明，调优后的LLM可接近理论扰动极限。我们的发现对内容 moderation、对抗性信息活动和生成模型监管提出了重要考量。
引用
@article{arxiv.2510.27152,
title = {Disrupting Networks: Amplifying Social Dissensus via Opinion Perturbation and Large Language Models},
author = {Erica Coppolillo and Giuseppe Manco},
journal= {arXiv preprint arXiv:2510.27152},
year = {2025}
}