基于分类器检测针对应用程序的提示注入攻击
密码学与安全
2025-12-16 v1 人工智能
摘要
提示注入攻击可能会危及来自基础设施到大型 Web 应用程序的关键系统的安全性和稳定性。本工作基于 HackAPrompt Playground Submissions 语料库，对提示注入数据集进行整理和补充，并训练了包括 LSTM、前馈神经网络、随机森林和朴素贝叶斯在内的几种分类器，以检测集成在 LLM 的 Web 应用程序中出现的恶意提示。该方法的提出提高了提示注入的检测和缓解，有助于保护目标应用程序和系统。
引用
@article{arxiv.2512.12583,
title = {Detecting Prompt Injection Attacks Against Application Using Classifiers},
author = {Safwan Shaheer and G. M. Refatul Islam and Mohammad Rafid Hamid and Md. Abrar Faiaz Khan and Md. Omar Faruk and Yaseen Nur},
journal= {arXiv preprint arXiv:2512.12583},
year = {2025}
}
备注
9 pages, X figures; undergraduate research project on detecting prompt injection attacks against LLM integrated web applications using classical machine learning and neural classifiers