ConAML:面向信息物理系统的约束对抗机器学习
密码学与安全
2020-11-26 v3 机器学习
摘要
近期研究表明,表面上训练良好的机器学习(ML)模型对对抗样本高度脆弱。随着 ML 技术在研究文献中正成为信息物理系统(CPSs)应用的流行解决方案,这些应用的安全性令人担忧。然而,当前关于对抗机器学习(AML)的研究主要聚焦于纯网络空间领域。对抗样本给 CPS 应用带来的风险尚未得到充分研究。特别是,由于数据源的分布式特性以及 CPSs 施加的固有物理约束,先前网络空间研究中广泛使用的威胁模型和先进的 AML 算法变得不可行。我们通过提出约束对抗机器学习(ConAML)来研究 ML 应用于 CPSs 的潜在漏洞,该方法生成满足物理系统内在约束的对抗样本。我们首先总结了 CPSs 中 AML 与现有网络空间系统中 AML 的差异,并提出了 ConAML 的一般威胁模型。然后我们设计了一种尽力搜索算法,以迭代方式生成具有线性物理约束的对抗样本。我们在两个典型 CPSs(电网和水处理系统)的仿真上评估了我们的算法。结果表明,即使在实际约束下,我们的 ConAML 算法也能有效生成显著降低 ML 模型性能的对抗样本。
引用
@article{arxiv.2003.05631,
title = {ConAML: Constrained Adversarial Machine Learning for Cyber-Physical Systems},
author = {Jiangnan Li and Yingyuan Yang and Jinyuan Stella Sun and Kevin Tomsovic and Hairong Qi},
journal= {arXiv preprint arXiv:2003.05631},
year = {2020}
}
备注
This paper has been accepted by the 16th ACM ASIA Conference on Computer and Communications Security (ACM ASIACCS 2021)