基于树模型的白盒可扩展攻击
机器学习
2022-04-04 v1 机器学习
摘要
对抗鲁棒性是保证机器学习模型可靠性的基本安全准则之一。尽管过去十年中引入了多种对抗鲁棒性测试方法，我们注意到其中大多数与树集成等非可微模型不兼容。由于树集成在工业界被广泛使用，这揭示了对抗鲁棒性研究与实际应用之间的关键鸿沟。本文提出一种针对树集成模型的白盒对抗鲁棒性测试新方法。具体而言，该方法通过温度可控的sigmoid函数对树集成进行平滑，从而支持基于梯度下降的对抗攻击。通过利用采样与对数导数技巧，所提方法可扩展至此前难以处理的测试任务。我们在多个公开数据集(及相应模型)上将该方法与随机扰动及黑盒方法进行比较。结果表明，所提方法能够1)成功揭示树集成模型的对抗脆弱性且不会造成测试计算压力，以及2)灵活权衡搜索性能与时间复杂度以满足不同测试准则。
引用
@article{arxiv.2204.00103,
title = {Scalable Whitebox Attacks on Tree-based Models},
author = {Giuseppe Castiglione and Gavin Ding and Masoud Hashemi and Christopher Srinivasa and Ga Wu},
journal= {arXiv preprint arXiv:2204.00103},
year = {2022}
}