暴露与防御面向安全的漏洞预测模型中的成员推断风险
密码学与安全
2025-12-10 v1 软件工程
摘要
针对漏洞预测（VP）任务的神经模型通过学习大规模代码仓库而取得了显著的性能，但其对成员推断攻击（Membership Inference Attacks, MIA）的脆弱性构成了严重的隐私问题。这些攻击旨在推断特定代码样本是否被用于训练。尽管MIA在自然语言处理和计算机视觉领域已被广泛研究，但其对安全关键代码分析任务的影响仍鲜有探讨。本文对MIA在VP模型中的效果进行首次全面分析，评估了各种架构（LSTM、BiGRU和CodeBERT）以及特征组合（包括嵌入、逻辑概率、损失和置信度）下的攻击成功率。在黑盒和灰盒威胁模型下，预测输出可被观察，使攻击者能够通过分析训练样本与非训练样本之间的输出差异来推断成员身份。实验结果表明，逻辑概率和损失是最具信息性和最易发生成员泄露的输出。基于上述发现，我们提出了基于噪声的成员推断防御（Noise-based Membership Inference Defense, NMID），这是一种轻量级防御模块，通过输出遮蔽和高斯噪声注入来干扰对抗推断。大量实验表明，NMID显著降低了MIA的有效性，将攻击AUC从接近1.0降至0.65以下，同时保持了VP模型的预测效用。本研究凸显了代码分析中 critical 隐私风险，并为Securing AI-powered software systems 提供了可操作的防御策略。
引用
@article{arxiv.2512.08291,
title = {Exposing and Defending Membership Leakage in Vulnerability Prediction Models},
author = {Yihan Liao and Jacky Keung and Xiaoxue Ma and Jingyu Zhang and Yicheng Sun},
journal= {arXiv preprint arXiv:2512.08291},
year = {2025}
}
备注
Accepted at APSEC 2025