表格数据上难以察觉的对抗攻击
机器学习
2019-12-16 v2 密码学与安全
机器学习
摘要
机器学习模型的安全性是一个值得关注的问题，因为它们可能面临为了不正当有利决策而发起的对抗攻击。尽管该主题的研究主要集中于图像领域，众多工业应用（尤其是金融领域）依赖于标准的表格数据。本文中，我们讨论表格领域中对抗样本的概念。我们提出了一种基于表格域中攻击难以察觉性的形式化描述，并由此得到一种生成难以察觉对抗样本的方法。实验表明，我们能够以很高的欺骗率生成难以察觉的对抗样本。
引用
@article{arxiv.1911.03274,
title = {Imperceptible Adversarial Attacks on Tabular Data},
author = {Vincent Ballet and Xavier Renard and Jonathan Aigrain and Thibault Laugel and Pascal Frossard and Marcin Detyniecki},
journal= {arXiv preprint arXiv:1911.03274},
year = {2019}
}
备注
presented at NeurIPS 2019 Workshop on Robust AI in Financial Services: Data, Fairness, Explainability, Trustworthiness, and Privacy (Robust AI in FS 2019), Vancouver, Canada