面向表格数据攻击传播的对抗训练
机器学习
2023-07-31 v1 密码学与安全
摘要
对抗攻击在以安全为核心的应用中是一个主要问题，恶意行为者不断试图误导机器学习（ML）模型将欺诈活动错误分类为合法，而系统维护者则试图阻止他们。对对此类攻击具有鲁棒性的 ML 模型进行对抗训练，可以防止业务损失并减少系统维护者的工作负载。在此类应用中，数据通常为表格形式，且可供攻击者操纵的空间经过复杂的特征工程变换——为模型训练提供有用信号——到达攻击者无法访问的空间。因此，我们提出一种新形式的对抗训练，在训练循环中使攻击在这两个空间之间传播。随后我们在信用卡欺诈检测领域的真实世界数据集上对该方法进行实证测试。我们表明，我们的方法可防止中等强度攻击下约 30% 的性能下降，并且在极强攻击下必不可少，而在无攻击时性能权衡损失小于 7%。
引用
@article{arxiv.2307.15677,
title = {Adversarial training for tabular data with attack propagation},
author = {Tiago Leon Melo and João Bravo and Marco O. P. Sampaio and Paolo Romano and Hugo Ferreira and João Tiago Ascensão and Pedro Bizarro},
journal= {arXiv preprint arXiv:2307.15677},
year = {2023}
}