通过酉梯度神经网络实现鲁棒性内建的归类
机器学习
2022-09-12 v1 人工智能
微分几何
度量几何
摘要
由于对抗攻击的存在，在安全关键系统中使用神经网络需要安全且鲁棒的模型。获知任意输入 x 的最小对抗扰动，或等价地获知 x 到分类边界的距离，能够评估分类鲁棒性，提供可认证的预测。遗憾的是，计算该距离的前沿技术计算开销大，因而不适用于在线应用。本文提出一类新颖的分类器，即符号距离分类器（SDCs），从理论角度看，其直接输出 x 到分类边界的精确距离，而非概率分数（如 SoftMax）。SDCs 代表一类鲁棒性内建的分类器。为切实满足 SDC 的理论要求，提出了一种名为酉梯度神经网络的新型网络架构。实验结果表明，所提架构可逼近符号距离分类器，从而以单次推理的代价实现对 x 的在线可认证分类。
引用
@article{arxiv.2209.04293,
title = {Robust-by-Design Classification via Unitary-Gradient Neural Networks},
author = {Fabio Brau and Giulio Rossolini and Alessandro Biondi and Giorgio Buttazzo},
journal= {arXiv preprint arXiv:2209.04293},
year = {2022}
}
备注
Under review