对抗样本可作为无监督机器学习的有效数据增强
机器学习
2021-12-09 v3 计算机视觉与模式识别
摘要
导致规避性预测的对抗样本被广泛用于评估和改进机器学习模型的鲁棒性。然而，当前研究聚焦于监督学习任务，依赖真实数据标签、目标化目标或来自已训练分类器的监督。本文中，我们提出一种为无监督模型生成对抗样本的框架，并展示其在数据增强上的新应用。我们的框架利用互信息神经估计器作为信息论相似性度量，在无监督情况下生成对抗样本。我们提出一种具有可证明收敛保证的新 MinMax 算法，以高效生成无监督对抗样本。我们的框架也可扩展至监督对抗样本。当将无监督对抗样本作为简单的即插即用数据增强工具用于模型重训练时，在不同无监督任务和数据集（包括数据重建、表示学习和对比学习）上一致观察到显著改进。我们的结果显示了通过对抗样本研究和改进无监督机器学习的全新方法及可观优势。
引用
@article{arxiv.2103.01895,
title = {Adversarial Examples can be Effective Data Augmentation for Unsupervised Machine Learning},
author = {Chia-Yi Hsu and Pin-Yu Chen and Songtao Lu and Sijia Liu and Chia-Mu Yu},
journal= {arXiv preprint arXiv:2103.01895},
year = {2021}
}
备注
This version has been accepted by AAAI-22