超越边界：AI 系统可迁移攻击的综合综述
密码学与安全
2025-05-13 v2 人工智能
计算与语言
计算机视觉与模式识别
摘要
随着人工智能（AI）系统日益支撑从自动驾驶到生物特征认证等关键应用，其对可迁移攻击的脆弱性引发日益严重的关切。这些攻击旨在跨实例、域、模型、任务、模态甚至硬件平台泛化，对安全性、隐私性与系统完整性构成严峻风险。本综述首次对跨越七大主要类别的可迁移攻击进行了全面回顾，包括规避、后门、数据投毒、模型窃取、模型反演、成员推断与侧信道攻击。我们引入了一个统一六维分类法：跨实例、跨域、跨模态、跨模型、跨任务与跨硬件，其系统性地刻画了对抗策略的多样迁移路径。借助该框架，我们考察了可迁移攻击对 AI 系统的底层机制与实际影响。此外，我们回顾了围绕数据增强与优化策略组织的、用于增强攻击可迁移性的前沿方法。通过整合碎片化研究并指明关键未来方向，本工作为理解、评估及防御现实世界 AI 系统中的可迁移威胁提供了基础性路线图。
引用
@article{arxiv.2311.11796,
title = {Beyond Boundaries: A Comprehensive Survey of Transferable Attacks on AI Systems},
author = {Guangjing Wang and Ce Zhou and Yuanda Wang and Bocheng Chen and Hanqing Guo and Qiben Yan},
journal= {arXiv preprint arXiv:2311.11796},
year = {2025}
}