剑与盾：大语言模型在反虚假信息导航中的应用与策略
人机交互
2025-06-10 v1 人工智能
摘要
大型语言模型（LLMs）的出现在反击虚假信息之战中提出了双重挑战。这些能够以规模化方式生成类人文本的强大工具既可被武器化以生产精妙且具说服力的虚假信息，也充满潜力用于增强检测和缓解策略。本文通过一个受“狼人杀”游戏灵感启发的沟通博弈进行调查，该博弈模拟在线论坛，包含25名参与者。我们分析了散布者、 moderator 和用户如何利用大语言模型来推进各自目标，揭示了滥用潜力与反击虚假信息的可能性。我们的发现突显了根据参与者角色与策略不同，大语言模型使用的差异，凸显了理解其在此语境下有效性的重要性。我们通过讨论未来大语言模型发展与在线平台设计的意义，提倡一种平衡的方法，既能赋能用户又能在防止大语言模型协助制造虚假信息的风险方面实现和谐。
引用
@article{arxiv.2506.07211,
title = {Sword and Shield: Uses and Strategies of LLMs in Navigating Disinformation},
author = {Gionnieve Lim and Bryan Chen Zhengyu Tan and Kellie Yu Hui Sim and Weiyan Shi and Ming Hui Chew and Ming Shan Hee and Roy Ka-Wei Lee and Simon T. Perrault and Kenny Tsu Wei Choo},
journal= {arXiv preprint arXiv:2506.07211},
year = {2025}
}