通过欺骗技术与说服原理利用大语言模型（LLM）
人机交互
2023-11-28 v1 密码学与安全
摘要
随着近期大语言模型（LLM）的出现，如OpenAI的ChatGPT、Google的BARD、Meta的Llama2以及Anthropic AI的Claude，其得到广泛使用，确保其安全性与鲁棒性至关重要。这些语言模型的广泛使用严重依赖于其可靠性及对该迷人技术的恰当使用。彻底测试这些模型不仅是为了确保其质量，也是为了防范潜在对手将其用于黑客攻击等非法活动的可能滥用，这一点至关重要。本文提出一项新颖研究，聚焦于针对此类大语言模型的欺骗性交互利用。更具体地，本文利用欺骗理论中广为人知的技术，借鉴并研究这些模型是否易受欺诈性交互的影响。本研究旨在不仅凸显这些风险，也为增强语言模型在面对复杂社会工程战术时的安全性与完整性铺平稳健对策之路。通过系统实验与分析，我们评估了它们在上述关键安全领域的表现。我们的结果展示了一个重要发现：这些大语言模型易受欺骗与社会工程攻击。
引用
@article{arxiv.2311.14876,
title = {Exploiting Large Language Models (LLMs) through Deception Techniques and Persuasion Principles},
author = {Sonali Singh and Faranak Abri and Akbar Siami Namin},
journal= {arXiv preprint arXiv:2311.14876},
year = {2023}
}
备注
10 pages, 16 tables, 5 figures, IEEE BigData 2023 (Workshops)