保持语义的对抗学习
机器学习
2019-12-24 v5 机器学习
摘要
尽管在构造视觉上难以察觉的对抗样本方面已取得进展，构造具有语义意义的对抗样本仍是一项挑战。本文中，我们提出一个生成保持语义的对抗样本的框架。首先，我们提出一种流形学习方法来捕捉输入的语义。其动机原则是通过统计推断学习输入的低维几何摘要。然后，我们使用 Gram-Schmidt 过程扰动所学流形的元素，以诱导扰动后的元素仍保留在流形中。为生成对抗样本，我们提出一种高效算法，借此将输入的语义作为知识来源，并在其上施加对抗约束。我们将该方法应用于玩具数据、图像和文本，并展示了其在生成可规避现有对抗攻击防御的保持语义的对抗样本方面的有效性。
引用
@article{arxiv.1903.03905,
title = {Semantics Preserving Adversarial Learning},
author = {Ousmane Amadou Dia and Elnaz Barshan and Reza Babanezhad},
journal= {arXiv preprint arXiv:1903.03905},
year = {2019}
}