MISLEAD：通过操纵选定特征的重要性来学习逃避攻击欺骗中的Epsilon
机器学习
2024-05-03 v2 密码学与安全
摘要
机器学习模型因对抗攻击而出现的新漏洞引发了对其可靠性的担忧。具体来说，逃避攻击通过向输入数据引入精确扰动来操纵模型，导致错误预测。为解决这一问题，我们提出了一种方法，将SHapley Additive exPlanations（SHAP）用于特征重要性分析，与一种创新的最优Epsilon技术相结合，以实施逃避攻击。我们的方法从基于SHAP的分析开始，以理解模型漏洞，这对于制定有针对性的逃避策略至关重要。最优Epsilon技术采用二分搜索算法，高效地确定成功逃避所需的最小epsilon。在多种机器学习架构上的评估表明，该技术在生成对抗样本方面具有精确性，突显了其在操纵模型结果方面的有效性。本研究强调了持续评估和监控对于识别和缓解机器学习系统中潜在安全风险的重要性。
引用
@article{arxiv.2404.15656,
title = {MISLEAD: Manipulating Importance of Selected features for Learning Epsilon in Evasion Attack Deception},
author = {Vidit Khazanchi and Pavan Kulkarni and Yuvaraj Govindarajulu and Manojkumar Parmar},
journal= {arXiv preprint arXiv:2404.15656},
year = {2024}
}