一种抵御离群点和对抗样本的鲁棒分类自编码器
机器学习
2022-06-08 v2 机器学习
摘要
本文提出一种鲁棒分类自编码器(CAE)，其具有识别离群点和防御对抗样本的强能力。主要思想是将自编码器由无监督学习模型转变为分类器，其中编码器用于将不同标签的样本压缩到互不相交的压缩空间，解码器用于从其压缩空间恢复样本。编码器既作为压缩特征学习器也作为分类器，解码器用于通过比较输入样本与输出判定编码器所给分类是否正确。由于对抗样本在当前DNN框架下似乎不可避免，基于CAE引入了用于防御对抗样本的列表分类器，其输出若干标签及由CAE恢复的对应样本。大量实验结果表明，CAE通过发现几乎所有离群点实现了识别离群点的SOTA性能；列表分类器在输出列表包含几乎所有对抗样本的正确标签且列表规模合理较小的意义上给出了近乎无损的分类。
引用
@article{arxiv.2106.15927,
title = {A Robust Classification-autoencoder to Defend Outliers and Adversaries},
author = {Lijia Yu and Xiao-Shan Gao},
journal= {arXiv preprint arXiv:2106.15927},
year = {2022}
}