OTAD:基于最优传输诱导的全域鲁洛赫连续性鲁棒模型
机器学习
2026-03-10 v2 人工智能
最优化与控制
机器学习
摘要
深度神经网络(DNN)对输入的微小对抗扰动极其脆弱,这对其可靠性和鲁棒性构成了重大挑战。对抗训练等经验方法虽能防御特定攻击,但仍然易受更强力度的攻击。另一方面,具有认证鲁棒性的 Lipschitz 网络缺乏足够的表达能力。为融合两种方法的优势,我们设计了一种新型的两步最优传输诱导的对抗防御(OTAD)模型,既能精准拟合训练数据,又能保持局部 Lipschitz 连续性。首先,我们训练一个DNN,引入基于最优传输理论推导的正则化项,得到将数据映射到特征空间的离散最优传输图。利用该图固有的规整性,我们通过求解凸组合问题(CIP)对图进行插值,以保证局部 Lipschitz 性质。OTAD 可扩展至 ResNet 和 Transformer 等多种网络架构,适用于复杂数据。为提高计算效率,CIP 可通过训练神经网络来求解。OTAD 通过最优传输图的规整性,为开发可靠且安全的深度学习系统开辟了新途径。实验结果表明,OTAD 在多个数据集上均优于其他鲁棒模型。
关键词
引用
@article{arxiv.2408.00329,
title = {OTAD: An Optimal Transport-Induced Robust Model for Agnostic Adversarial Attack},
author = {Kuo Gai and Sicong Wang and Shihua Zhang},
journal= {arXiv preprint arXiv:2408.00329},
year = {2026}
}
备注
15 pages, 2 figures