生成式鲁棒分类
机器学习
2022-12-15 v1 计算机视觉与模式识别
摘要
训练对抗鲁棒判别(即 softmax)分类器一直是鲁棒分类的主流方法。基于近期关于基于对抗训练(AT)的生成模型的工作,我们研究使用 AT 来学习非归一化类条件密度模型,然后进行生成式鲁棒分类。我们的结果表明,在模型容量相近的条件下,当测试数据干净或测试扰动大小有限时,生成式鲁棒分类器取得与基线 softmax 鲁棒分类器相当的性能;而当测试扰动大小超过训练扰动大小时,性能远优于后者。该生成式分类器还能够生成更接近训练数据的样本或反事实样本,表明其能更好地捕捉类条件分布。与标准判别对抗训练中高级数据增强技术仅在与权重平均结合时才有效不同,我们发现可直接应用高级数据增强以在我们的方法中实现更好的鲁棒性。我们的结果表明,生成式分类器是鲁棒分类的一个有竞争力的替代方案,尤其适用于类别数有限的问题。
引用
@article{arxiv.2212.07283,
title = {Generative Robust Classification},
author = {Xuwang Yin},
journal= {arXiv preprint arXiv:2212.07283},
year = {2022}
}
备注
Report