最大马哈拉诺比斯线性判别分析网络
机器学习
2018-06-20 v2
摘要
深度神经网络（DNN）由从输入到特征表示的非线性变换，以及随后的常用 softmax 线性分类器组成。尽管许多工作致力于为非线性变换设计合适的架构，但对分类器部分的探究甚少。本文中，我们表明合理设计的分类器可提升对对抗攻击的鲁棒性并带来更好的预测结果。具体而言，我们定义了最大马哈拉诺比斯分布（MMD），并从理论上证明若输入服从 MMD，则线性判别分析（LDA）分类器对对抗样本具有最佳鲁棒性。我们进一步提出一种新颖的最大马哈拉诺比斯线性判别分析（MM-LDA）网络，其显式地将输入空间中复杂的数据分布映射到隐特征空间中的 MMD，然后应用 LDA 进行预测。我们的结果表明，MM-LDA 网络对对抗攻击显著更鲁棒，且在类偏斜分类中具有更好的性能。
引用
@article{arxiv.1802.09308,
title = {Max-Mahalanobis Linear Discriminant Analysis Networks},
author = {Tianyu Pang and Chao Du and Jun Zhu},
journal= {arXiv preprint arXiv:1802.09308},
year = {2018}
}