FACADE：一种用于对抗性电路异常检测与评估的框架
机器学习
2023-07-21 v1 人工智能
摘要
我们提出 FACADE，一种新颖的概率与几何框架，专为深度神经网络中的无监督机制异常检测而设计。其主要目标是推进对对抗攻击的理解与缓解。FACADE 旨在生成电路上的概率分布，从而提供关键洞察，揭示其对伪类（或激活空间中的高维模式）流形性质变化的贡献，成为揭示和对抗对抗攻击的有力工具。我们的方法力求提升模型鲁棒性、增强可扩展的模型监督，并展示了在真实部署场景中有前景的应用。
引用
@article{arxiv.2307.10563,
title = {FACADE: A Framework for Adversarial Circuit Anomaly Detection and Evaluation},
author = {Dhruv Pai and Andres Carranza and Rylan Schaeffer and Arnuv Tandon and Sanmi Koyejo},
journal= {arXiv preprint arXiv:2307.10563},
year = {2023}
}
备注
Accepted as BlueSky Poster at 2023 ICML AdvML Workshop