SecureSense：防御对抗攻击的安全无设备人类活动识别
密码学与安全
2022-12-05 v2 人工智能
人机交互
网络与互联网体系结构
摘要
深度神经网络已赋能精准的无设备人类活动识别，其应用广泛。深度模型能从各类传感器提取鲁棒特征，并即使在数据不足等挑战性情形下也具备良好泛化能力。然而，这些系统可能易受输入扰动即对抗攻击的影响。我们实证表明，黑盒高斯攻击与现代对抗白盒攻击均可使其准确率骤降。本文首先指出该现象会给无设备感知系统带来严重安全隐患，进而提出一种新颖学习框架 SecureSense 以防御常见攻击。SecureSense 旨在实现一致预测，无论其输入是否存在攻击，从而缓解对抗攻击所致分布扰动的负面影响。大量实验表明，我们所提方法能显著增强现有深度模型的鲁棒性，克服可能的攻击。结果验证了我们的方法在无线人类活动识别与人员身份识别系统中表现良好。据我们所知，这是移动计算研究中首个探究对抗攻击并进一步为无线人类活动识别开发新颖防御框架的工作。
引用
@article{arxiv.2204.01560,
title = {SecureSense: Defending Adversarial Attack for Secure Device-Free Human Activity Recognition},
author = {Jianfei Yang and Han Zou and Lihua Xie},
journal= {arXiv preprint arXiv:2204.01560},
year = {2022}
}
备注
The paper is accepted by IEEE Transactions on Mobile Computing