定制真相：通过个人化与统计学造假优化 LLM 的说服力
计算与语言
2025-01-30 v1
摘要
大语言模型（LLM）正变得越来越具说服力，能够通过利用个人数据在与人类对话中实现论点的个性化，从而可能严重影响散布虚假信息活动的规模与效果。我们在辩论情境中研究LLM的说服力，通过让33名受试者与LLM生成的旨在改变其观点论据进行互动。我们通过测量辩论前后受试者对假设的最新同意程度，以及分析观点变化的幅度及LLM方向变更的概率来量化LLM的影响。我们比较了包括基于用户人口统计与性格的个性化论据、引用造作统计数据，以及结合两者的混合策略。我们发现，静态人类生成论据与GPT-4o-mini在说服力上相当。然而，在互动辩论中，LLM在运用混合策略时超越了静态人类论据，其将受试者改变初始立场的概率达到51%，而静态人类论据仅为32%。我们的研究结果凸显了LLM可能用于低成本且高效的大规模虚假信息活动的令人担忧潜力。
引用
@article{arxiv.2501.17273,
title = {Tailored Truths: Optimizing LLM Persuasion with Personalization and Fabricated Statistics},
author = {Jasper Timm and Chetan Talele and Jacob Haimes},
journal= {arXiv preprint arXiv:2501.17273},
year = {2025}
}