通过提示工程进行的情感操纵放大了 AI 大语言模型中的虚假信息生成
人工智能
2024-03-07 v1 计算机与社会
人机交互
摘要
本研究调查了 OpenAI 的大语言模型 (LLMs) 通过提示工程生成合成虚假信息的情况，并探讨了它们对情感提示的响应。利用 davinci-002、davinci-003、gpt-3.5-turbo 和 gpt-4 等各种 LLM 迭代版本，我们设计了实验来评估其生成虚假信息的成功率。我们的发现基于包含 19,800 条合成虚假信息社交媒体帖子的语料库，揭示出 OpenAI 的所有 LLM 都能成功生成虚假信息，并且它们能有效响应情感提示，表明它们在文本生成中对情感线索有着细致的理解。当被礼貌地提示时，所有被检查的 LLM 都持续以高频率生成虚假信息。相反，当被不礼貌地提示时，虚假信息的生成频率会降低，因为模型通常会拒绝生成虚假信息，转而警告用户该工具并非用于此类目的。这项研究有助于围绕 AI 技术的负责任开发和应用进行的持续讨论，特别是在减少虚假信息传播和促进 AI 生成内容透明度方面。
引用
@article{arxiv.2403.03550,
title = {Emotional Manipulation Through Prompt Engineering Amplifies Disinformation Generation in AI Large Language Models},
author = {Rasita Vinay and Giovanni Spitale and Nikola Biller-Andorno and Federico Germani},
journal= {arXiv preprint arXiv:2403.03550},
year = {2024}
}
备注
14 pages, 3 figures