探索对抗样本在机器学习分类器高效主动学习中的应用
机器学习
2021-09-24 v2
摘要
机器学习研究者早已注意到，当训练样本在底层决策边界附近密集采样时，模型训练过程会更加有效和高效。尽管该观察已广泛应用于一系列机器学习安全方法中，但缺乏对其正确性的理论分析。为应对这一挑战，我们首先利用对抗攻击方法对原始训练样本添加特定扰动，使生成的样本近似位于ML分类器的决策边界上。随后我们研究主动学习与这些特定训练样本之间的联系。通过分析k-NN分类器、核方法以及深度神经网络等多种代表性分类器，我们为该观察建立了理论基础。因此，我们的理论证明为借助对抗样本实现更高效的主动学习方法提供了支持，这与以往将对抗样本常作为破坏性方案的工作相反。实验结果表明，所建立的理论基础将指导基于对抗样本的更优主动学习策略。
引用
@article{arxiv.2109.10770,
title = {Exploring Adversarial Examples for Efficient Active Learning in Machine Learning Classifiers},
author = {Honggang Yu and Shihfeng Zeng and Teng Zhang and Ing-Chao Lin and Yier Jin},
journal= {arXiv preprint arXiv:2109.10770},
year = {2021}
}