针对版权检测系统的对抗攻击
机器学习
2019-06-21 v2 密码学与安全
机器学习
摘要
众所周知，许多机器学习模型易受对抗攻击，攻击者通过对输入作微小扰动来规避分类器。本文讨论了在工业界发挥核心作用的版权检测工具如何易受对抗攻击。我们讨论了一系列版权检测系统及其尤其易受攻击的原因。这些漏洞在基于神经网络的系统中尤为明显。作为概念验证，我们描述了一种知名的音乐识别方法，并以神经网络形式实现该系统，随后使用简单梯度方法对其发起攻击。以此方式生成的对抗音乐成功欺骗了工业系统，包括 AudioTag 版权检测器与 YouTube 的 Content ID 系统。我们的目标是提升对此领域中对抗样本所构成威胁的认识，并强调强化版权检测系统以抵御攻击的重要性。
引用
@article{arxiv.1906.07153,
title = {Adversarial attacks on Copyright Detection Systems},
author = {Parsa Saadatpanah and Ali Shafahi and Tom Goldstein},
journal= {arXiv preprint arXiv:1906.07153},
year = {2019}
}