鲁棒主动学习 (RoAL)：通过弹性权重巩固应对主动学习中的动态对抗威胁
机器学习
2024-08-16 v2
摘要
尽管主动学习和对抗攻击领域取得了显著进展，但这两个领域的交叉研究仍未被充分探索，特别是在开发针对动态对抗威胁的鲁棒主动学习框架方面。在动态对抗攻击下开发鲁棒主动学习框架的挑战至关重要，因为这些攻击可能导致主动学习循环中的灾难性遗忘。本文提出了鲁棒主动学习 (RoAL)，一种通过将弹性权重巩固 (EWC) 集成到主动学习过程中来解决此问题的新方法。我们的贡献有三方面：第一，我们提出了一种新的动态对抗攻击，对主动学习框架构成重大威胁。第二，我们引入了一种将 EWC 与主动学习相结合的新方法，以缓解动态对抗攻击导致的灾难性遗忘。第三，我们进行了广泛的实验评估以证明我们方法的有效性。结果表明，RoAL 不仅能有效应对动态对抗威胁，还能显著降低灾难性遗忘的影响，从而增强主动学习系统在对抗环境中的鲁棒性和性能。
引用
@article{arxiv.2408.07364,
title = {Robust Active Learning (RoAL): Countering Dynamic Adversaries in Active Learning with Elastic Weight Consolidation},
author = {Ricky Maulana Fajri and Yulong Pei and Lu Yin and Mykola Pechenizkiy},
journal= {arXiv preprint arXiv:2408.07364},
year = {2024}
}