LLM 回音室：个性化与自动化的虚假信息
人工智能
2024-09-25 v1 计算机与社会
摘要
近期进展展示了 GPT4 和 Llama2 等大型语言模型在摘要、翻译和内容审查等任务中的能力。然而，它们的广泛使用引发了担忧，尤其是 LLM 大规模传播具有说服力的、类人的虚假信息的潜在可能，这可能对公众舆论产生重大影响。本研究考察了这些风险，重点关注 LLM 将虚假信息作为事实传播的能力。为了调查这一点，我们构建了 LLM Echo Chamber，这是一个模拟社交媒体聊天室的受控数字环境，虚假信息常在其中传播。回音室中，个体仅与志同道合的人交流，从而进一步巩固信念。通过研究在此环境中传播虚假信息的恶意机器人，我们可以更好地理解这一现象。我们回顾了当前的 LLM，探索了虚假信息风险，并应用了 sota 微调技术。使用 Microsoft phi2 模型并结合我们的自定义数据集进行微调，我们生成了有害内容以创建 Echo Chamber。该设置由 GPT4 在说服力和危害性方面进行评估，揭示了围绕 LLM 的伦理担忧，并强调需要针对虚假信息采取更强有力的防护措施。
引用
@article{arxiv.2409.16241,
title = {LLM Echo Chamber: personalized and automated disinformation},
author = {Tony Ma},
journal= {arXiv preprint arXiv:2409.16241},
year = {2024}
}
备注
42 pages