关于基于流形的防御需要拓扑感知生成模型的探讨
机器学习
2020-02-19 v4 密码学与安全
机器学习
摘要
机器学习（ML）算法或模型，尤其是深度神经网络（DNNs），已在多个领域展现出显著前景。然而，研究人员最近证明 ML 算法特别是 DNNs 易受对抗样本（导致误分类的轻微扰动样本）的攻击。对抗样本的存在阻碍了 ML 算法在安全关键领域（如安全）中的部署。文献中已存在若干针对对抗样本的防御方法。其中重要的一类是基于流形的防御，即在分类前将样本“拉回”数据流形中。这些防御依赖于数据位于比输入空间维度更低的流形这一假设。这些防御使用生成模型来近似输入分布。在本文中，我们研究以下问题：基于流形的防御中所用的生成模型是否需要具备拓扑感知能力？我们认为答案是肯定的，并提供了理论与实证证据来支持我们的主张。
引用
@article{arxiv.1909.03334,
title = {On the Need for Topology-Aware Generative Models for Manifold-Based Defenses},
author = {Uyeong Jang and Susmit Jha and Somesh Jha},
journal= {arXiv preprint arXiv:1909.03334},
year = {2020}
}