利用可解释人工智能 (XAI) 提升基于行为的认证对抗攻击防御能力
密码学与安全
2024-03-12 v2 人机交互
摘要
近年来，机器学习模型，尤其是深度神经网络，已广泛应用于安全领域的分类任务。然而，这些模型已被证明易受对抗性操纵：由对抗攻击模型学习到的微小变化一旦应用于输入，就会导致输出发生显著变化。大多数关于对抗攻击及其相应防御方法的研究仅关注对抗样本直接由攻击模型生成的场景。在本研究中，我们探索了基于行为的认证中一个更实际的场景，即对抗样本由攻击者收集。模型生成的对抗样本被攻击者以一定的偏差进行复现。我们提出了一种基于可解释人工智能 (XAI) 的防御策略，以应对此类场景下的对抗攻击。通过我们的方法训练的特征选择器可用作原始认证器前的过滤器。它过滤掉更容易受到对抗攻击或与认证无关的特征，同时保留更鲁棒的特征。通过全面的实验，我们证明了基于 XAI 的防御策略能有效抵御对抗攻击，并优于对抗训练和防御蒸馏等其他防御策略。
引用
@article{arxiv.2402.16430,
title = {Improving behavior based authentication against adversarial attack using XAI},
author = {Dong Qin and George Amariucai and Daji Qiao and Yong Guan},
journal= {arXiv preprint arXiv:2402.16430},
year = {2024}
}