感知感知攻击:通过逆向工程人类感知生成对抗性音乐
声音
2022-07-28 v1 人工智能
密码学与安全
机器学习
音频与语音处理
摘要
近年来,对抗性机器学习攻击对实用的音频信号分类系统(包括语音识别、说话人识别和音乐版权检测)构成了严重的安全威胁。以往的研究主要关注通过对原始信号施加类噪声的小扰动,以确保攻击音频信号分类器的有效性。目前仍不清楚攻击者是否能够在保证攻击有效性的同时,生成能被人类良好感知的音频信号扰动。这对于音乐信号尤为重要,因为音乐信号是经过精心制作、具有人类愉悦听觉特性的。本工作中,我们将针对音乐信号的对抗攻击形式化为一个新的感知感知攻击框架,该框架将人类研究整合进对抗攻击设计中。具体而言,我们开展了一项人类研究,以量化人类对于音乐信号变化的感知。我们邀请人类参与者基于原始与扰动音乐信号对对其感知偏差进行评分,并通过回归分析逆向工程人类感知过程,以在给定扰动信号时预测人类感知偏差。随后,感知感知攻击被形式化为一个优化问题,寻找最优扰动信号以最小化来自回归人类感知模型的感知偏差预测值。我们利用该感知感知框架设计了一种针对 YouTube 版权检测器的现实对抗音乐攻击。实验表明,与先前工作相比,感知感知攻击生成的对抗音乐具有显著更好的感知质量。
引用
@article{arxiv.2207.13192,
title = {Perception-Aware Attack: Creating Adversarial Music via Reverse-Engineering Human Perception},
author = {Rui Duan and Zhe Qu and Shangqing Zhao and Leah Ding and Yao Liu and Zhuo Lu},
journal= {arXiv preprint arXiv:2207.13192},
year = {2022}
}
备注
ACM CCS 2022