基于风险轮廓的 DNN 逃逸攻击防御：从优质样本中学习
密码学与安全
2025-05-13 v1
摘要
医疗和自动驾驶等安全关键应用中使用深度神经网络 (DNN) 进行预测和推断决策。DNN易受到逃逸攻击，即对手 crafting 的恶意数据实例以欺骗 DNN 在推断时作出错误决策。现有的 DNN 防御方法要么是静态的，要么是动态的。静态防御计算效率高，但无法适应不断演变的威胁格局；而动态防御则具有适应性，但因计算开销增加而受限。为兼顾二者优势，本文提出一种新颖的风险轮廓框架，通过风险意识策略对选择性训练静态防御，使用表现出最具抗性特征且因此对逃逸攻击更具抗性的受害者实例。我们假设，对更不易受攻击的实例进行训练可通过减少误报来提高对抗检测率。我们在一种血糖管理系统上评估了我们的风险感知选择性训练策略的有效性，展示了对深层异常检测器进行无选择性训练可能导致误报率上升，这在安全关键应用中可能危及生命。我们的实验表明，对更不易受攻击的患者进行选择性训练可在精度几乎不受影响的情况下提高召回率最高可达27.5%。
引用
@article{arxiv.2505.06477,
title = {Learning from the Good Ones: Risk Profiling-Based Defenses Against Evasion Attacks on DNNs},
author = {Mohammed Elnawawy and Gargi Mitra and Shahrear Iqbal and Karthik Pattabiraman},
journal= {arXiv preprint arXiv:2505.06477},
year = {2025}
}