面向大型语言模型 (LLM) 应用的威胁建模与风险分析
声音
2024-06-18 v1 人工智能
音频与语音处理
摘要
大型语言模型 (LLM) 的出现通过提供先进的自然语言处理能力， revolutionized 了各类应用。然而，这一创新带来了新的网络安全挑战。本文聚焦于针对 LLM 应用的威胁建模与风险分析。我们关注诸如数据投毒、提示注入、SQL 注入、越狱和组合注入等潜在攻击，评估其对安全性的影响并提出缓解措施。我们引入一种结合 STRIDE 和 DREAD methodologies 的框架，用于主动识别威胁并进行风险评估。此外，我们通过一个定制的 LLM 应用案例研究，检验了端到端威胁模型的可行性。该模型遵循 Shostack 的四个问题框架，针对 LLM 所特有的威胁进行了调整。我们的目标是提出措施来增强这些强大 AI 工具的安全性，遏制攻击，确保 LLM 集成系统的可靠性和完整性。
引用
@article{arxiv.2406.11006,
title = {SPEAR: Receiver-to-Receiver Acoustic Neural Warping Field},
author = {Yuhang He and Shitong Xu and Jia-Xing Zhong and Sangyun Shin and Niki Trigoni and Andrew Markham},
journal= {arXiv preprint arXiv:2406.11006},
year = {2024}
}
备注
9 pages, 5 figures in main paper