用于图像分类、生成等任务的生成式最大马氏距离分类器
计算机视觉与模式识别
2021-07-05 v4 机器学习
摘要
Grathwohl 等人的联合基于能量模型(JEM)表明，标准 softmax 分类器可被重新解释为联合分布 p(x,y) 的基于能量模型(EBM)；所得模型可被优化以改进校准、鲁棒性和分布外检测，同时生成可与近期基于 GAN 的方法质量相媲美的样本。然而，JEM 利用的 softmax 分类器本质上是判别式的，其潜在特征空间并未被很好地表述为概率分布，这可能阻碍其在图像生成方面的潜力并导致训练不稳定。我们假设生成式分类器，如线性判别分析(LDA)，可能更适用于图像生成，因为生成式分类器显式地对数据生成过程建模。因此本文研究一种用于图像分类和生成的 LDA 分类器。特别地，最大马氏距离分类器(MMC)作为 LDA 的特例，非常契合我们的目标。我们展示了我们的生成式 MMC (GMMC) 可以判别式、生成式或联合地训练用于图像分类和生成。在多个数据集上的大量实验表明，GMMC 取得了当前最优的判别与生成性能，同时在校准、对抗鲁棒性和分布外检测上以显著优势优于 JEM。我们的源代码可在 https://github.com/sndnyang/GMMC 获取。
引用
@article{arxiv.2101.00122,
title = {Generative Max-Mahalanobis Classifiers for Image Classification, Generation and More},
author = {Xiulong Yang and Hui Ye and Yang Ye and Xiang Li and Shihao Ji},
journal= {arXiv preprint arXiv:2101.00122},
year = {2021}
}
备注
Accepted as a conference paper at ECML2021