量化转移黑盒攻击风险
密码学与安全
2025-11-10 v1 计算机视觉与模式识别
摘要
神经网络已广泛应用于各类应用，包括安全相关产品。然而，其广泛采用加剧了对对抗性攻击的脆弱性问题。随着新兴法规与标准强调安全，组织必须可靠地量化这些攻击的风险，尤其是针对转移对抗性攻击。本文探讨了针对转移对抗性攻击的韧性测试所涉及的复杂性。我们的分析特别关注黑盒规避攻击，强调由于其实际意义和通常高度转移性，转移基于攻击尤为重要。我们指出，针对高维输入空间进行彻底探索以实现完整测试覆盖在计算上是不可行的。因此，进行全面的对抗风险绘图是不切实际的。为缓解这一局限，本文提出一种针对性韧性测试框架，采用基于中心核对齐 (Centered Kernel Alignment, CKA) 相似性的战略性筛选代理模型。通过利用相对于目标模型表现高和低 CKA 相似性的代理模型，该方法旨在优化对对抗子空间的覆盖。风险估计采用基于回归的估计器提供，使组织获得切实可行的风险量化。
引用
@article{arxiv.2511.05102,
title = {Quantifying the Risk of Transferred Black Box Attacks},
author = {Disesdi Susanna Cox and Niklas Bunzel},
journal= {arXiv preprint arXiv:2511.05102},
year = {2025}
}