面向 LLM 的安全可信 ZSM 路径：攻击、防御与机遇
密码学与安全
2025-01-07 v2 人工智能
分布式、并行与集群计算
摘要
近年来，大语言模型（LLMs）因其在新兴应用（包括通信网络）中的适应性和可扩展性而受到广泛关注。预计 ZSM 网络将能够以即服务形式支持 LLMs，因其提供超可靠低时延通信和闭环大规模连接。然而，LLMs 存在数据和模型隐私问题，影响其部署用于用户服务的可信性。本文探讨了 ZSM 网络中微调 LLMs 相关的安全漏洞，特别是成员推断攻击。我们定义了攻击网络的特征，该网络可在攻击者获取下游任务微调模型的情况下执行成员推断攻击。我们证明成员推断攻击对任何下游任务均有效，这可能导致使用 LLM 即服务时的个人数据泄露。实验结果表明，在命名实体识别任务上可实现最高 92% 的攻击成功率。基于实验分析，我们讨论了可能的防御机制，并提出了使 LLMs 在 ZSM 网络背景下更加可信的可能研究方向。
引用
@article{arxiv.2408.00722,
title = {Pathway to Secure and Trustworthy ZSM for LLMs: Attacks, Defense, and Opportunities},
author = {Sunder Ali Khowaja and Parus Khuwaja and Kapal Dev and Hussam Al Hamadi and Engin Zeydan},
journal= {arXiv preprint arXiv:2408.00722},
year = {2025}
}
备注
7 pages, 4 figures