大型语言模型攻击与防御方法的最新进展
密码学与安全
2024-12-03 v3 人工智能
摘要
大型语言模型 通过其先进的文本处理和生成能力，彻底改变了人工智能和机器学习。然而，它们的广泛部署引发了重大的安全性和可靠性担忧。深度神经网络中已知的漏洞，加上新出现的威胁模型，可能会危及安全评估并造成虚假的安全感。鉴于 LLM 安全领域的广泛研究，我们相信总结当前现状将有助于研究界更好地了解当前态势并为未来的发展提供参考。本文回顾了关于 LLM 漏洞和威胁的当前研究，并评估了当代防御机制的有效性。我们分析了关于攻击向量和模型弱点的最新研究，为攻击机制和不断演变的威胁态势提供了见解。我们还审查了当前的防御策略，突出了它们的优势和局限性。通过对比攻击和防御方法的进展，我们确定了研究空白，并提出了增强 LLM 安全性的未来方向。我们的目标是增进对 LLM 安全挑战的理解，并指导开发更鲁棒的安全措施。
引用
@article{arxiv.2409.03274,
title = {Recent Advances in Attack and Defense Approaches of Large Language Models},
author = {Jing Cui and Yishi Xu and Zhewei Huang and Shuchang Zhou and Jianbin Jiao and Junge Zhang},
journal= {arXiv preprint arXiv:2409.03274},
year = {2024}
}