对抗样本：机遇与挑战

深度神经网络（DNNs）在图像识别、语音处理、自动驾驶与医疗诊断方面已展现出远超人类的巨大优势。然而，近期研究表明 DNNs 易受对抗样本（AEs）攻击，后者由攻击者设计以欺骗深度学习模型。与真实样本不同，AEs 可误导模型预测错误输出，却几乎无法被人眼区分，因此威胁到安全关键的深度学习应用。近年来，AEs 的生成与防御已成为人工智能（AI）安全领域的研究热点。本文综述 AEs 的最新研究进展。首先，我们介绍 AEs 的概念、成因、特性与评估指标，随后对最先进的 AEs 生成方法进行综述并讨论其优缺点。之后，我们回顾现有防御手段并探讨其局限性。最后，展望 AEs 的未来研究机遇与挑战。