元学习虽能快速适应,却也易被破坏
机器学习
2020-09-04 v1 机器学习
摘要
元学习算法已被广泛应用于许多任务以实现高效学习,如少样本图像分类和快速强化学习。在元训练期间,元学习者从多种学习任务中发展出通用的学习策略或经验。因此,在元测试期间,元学习者可利用习得的策略快速适应新任务,即便仅有少量训练样本。然而,元学习在可靠性与鲁棒性方面仍存在阴暗面。具体而言,元学习是否易受对抗攻击?换言之,若 adversary 在未被察觉的情况下操纵给定训练集,训练良好的元学习者是否会利用其习得经验构建错误或无用的知识?若不理解此问题,将元学习应用于安全关键型应用是极风险的。因此,本文针对少样本分类问题下的元学习对抗攻击开展初步研究。特别地,我们正式定义了元学习特有的对抗攻击关键要素,并提出了首个面向多种设置下元学习的攻击算法。我们评估了所提攻击策略的有效性以及若干代表性元学习算法的鲁棒性。实验结果表明,所提攻击策略可轻易破坏元学习者,且元学习易受对抗攻击。所提框架的实现将在本文被接收后发布。
引用
@article{arxiv.2009.01672,
title = {Yet Meta Learning Can Adapt Fast, It Can Also Break Easily},
author = {Han Xu and Yaxin Li and Xiaorui Liu and Hui Liu and Jiliang Tang},
journal= {arXiv preprint arXiv:2009.01672},
year = {2020}
}
备注
Meta Learning Robustnss