SHIELD：用于增量扩展学习防御的安全超网络
机器学习
2025-11-24 v3 人工智能
密码学与安全
摘要
在对抗条件下的持续学习仍是开放问题，因为现有方法往往在鲁棒性和可扩展性之间捨一或两者兼顾。我们提出了一种新框架，将区间界限传播（IBP）与超网络架构相结合，以实现跨顺序任务的可证鲁棒持续学习。我们的方法称为SHIELD，通过基于紧凑任务嵌入的共享超网络生成任务特定的模型参数，消除回放缓冲区或完整模型副本的需求，从而实现高效的时序扩展。为了进一步增强鲁棒性，我们引入了区间混合（Interval MixUp），这是一种新的训练策略，通过将以MixUp点为中心的 球表示的虚拟示例进行混合。利用区间算术，这一技术在保证认证鲁棒性的同时缓解了包装效应， resulting in smoother decision boundaries. 我们在多个基准测试中对SHIELD进行了评估，under strong white-box adversarial attacks, including PGD and AutoAttack. 它持续地超过了现有的鲁棒持续学习方法，在保持可扩展性和认证方面实现了最高的平均准确率。这些结果标志着持续学习在对抗性环境中实现实用且理论依据严密的重要一步。
引用
@article{arxiv.2506.08255,
title = {SHIELD: Secure Hypernetworks for Incremental Expansion Learning Defense},
author = {Patryk Krukowski and Łukasz Gorczyca and Piotr Helm and Kamil Książek and Przemysław Spurek},
journal= {arXiv preprint arXiv:2506.08255},
year = {2025}
}