边缘-云大语言模型系统中提示安全与系统性能的联合优化
密码学与安全
2025-02-03 v1 人工智能
摘要
大语言模型（LLM）极大地便利了人类生活，提示工程提高了这些模型的效率。然而，近年来提示工程驱动的攻击有所增加，导致隐私泄露、延迟增加和系统资源浪费等问题。尽管提出了基于人类反馈强化学习（RLHF）的安全微调方法来对齐LLM，但现有安全机制无法应对多变的提示攻击，凸显了对提示进行安全检测的必要性。本文在边缘-云大语言模型（EC-LLM）系统中，联合考虑了各种提示攻击下的提示安全、服务延迟和系统资源优化。为了增强提示安全，提出了一种基于向量数据库的轻量级攻击检测器。我们将提示检测、延迟和资源优化的联合问题形式化为一个多阶段动态贝叶斯博弈模型。通过预测恶意任务数量并在每个阶段通过贝叶斯更新更新信念来确定均衡策略。该方案在实际实现的EC-LLM系统上进行了评估，结果表明，与最先进算法相比，我们的方法提供了更强的安全性，减少了良性用户的服务延迟，并降低了系统资源消耗。
引用
@article{arxiv.2501.18663,
title = {Joint Optimization of Prompt Security and System Performance in Edge-Cloud LLM Systems},
author = {Haiyang Huang and Tianhui Meng and Weijia Jia},
journal= {arXiv preprint arXiv:2501.18663},
year = {2025}
}