面向代码数据的对抗机器学习综述：现实威胁、对抗措施与解释
密码学与安全
2024-11-13 v1
摘要
代码语言模型（CLM）在源代码理解和生成方面取得了巨大进展，导致近年来将CLM应用于现实软件工程任务的研究兴趣显著增加。然而，在现实场景中，CLM面临潜在的恶意对手，给CLM系统的机密性、完整性和可用性带来风险。尽管存在这些风险，但对极端对抗环境下CLM安全漏洞的全面分析一直缺失。为填补这一研究空白，我们基于CIA三要素将现有攻击技术分为三类：投毒攻击（破坏完整性与可用性）、规避攻击（破坏完整性）和隐私攻击（破坏机密性）。我们迄今从人工智能、计算机安全和软件工程三个研究领域收集了最全面的79篇关于CLM对抗机器学习的论文。我们的分析涵盖每类风险，考察威胁模型分类、攻击技术和对抗措施，同时引入可解释AI（XAI）的新视角，探索不同风险间的相互联系。最后，我们指出了当前挑战和未来研究机会。本研究旨在为研究者和从业者提供全面路线图，为面向实际应用的更可靠CLM铺平道路。
引用
@article{arxiv.2411.07597,
title = {A Survey on Adversarial Machine Learning for Code Data: Realistic Threats, Countermeasures, and Interpretations},
author = {Yulong Yang and Haoran Fan and Chenhao Lin and Qian Li and Zhengyu Zhao and Chao Shen and Xiaohong Guan},
journal= {arXiv preprint arXiv:2411.07597},
year = {2024}
}
备注
Under a reviewing process since Sep. 3, 2024