Aegis 框架的实证研究
机器学习
2024-04-25 v1
摘要
比特翻转攻击是针对神经网络的多类攻击手段，已发明诸多防御机制以缓解其威力。鉴于确保这些防御机制稳健性的重要性，我们对 Aegis 框架进行了实证研究。我们评估了 Aegis 在低熵数据（MNIST）上的基线机制，并评估了在 MNIST 上微调的预训练模型。我们还比较了数据增强与 Aegis 的稳健性训练之间的用法，以及 Aegis 在其他对抗攻击下的表现，如对抗样本的生成。我们发现，Aegis 的动态退出策略和稳健性训练都存在一些缺陷。特别是，我们在测试受扰动数据和对抗样本时的准确率低于基线。此外，我们发现动态退出策略在测试较简单数据集时失去了均匀性。该项目的代码已在 GitHub 上提供。
引用
@article{arxiv.2404.15784,
title = {An Empirical Study of Aegis},
author = {Daniel Saragih and Paridhi Goel and Tejas Balaji and Alyssa Li},
journal= {arXiv preprint arXiv:2404.15784},
year = {2024}
}
备注
9 pages, 6 figures, 3 tables