已部署树集成中的对抗样本检测
机器学习
2022-06-28 v1 密码学与安全
摘要
树集成是功能强大且被广泛使用的模型。然而，它们易受对抗样本的攻击，对抗样本是专门构造以引发模型误预测的样本。这会 degrading 性能并削弱用户对模型的信任。通常，相关方法试图通过验证所学集成的鲁棒性或使学习过程鲁棒化来缓解此问题。我们采用另一种方法，尝试在部署后设置中检测对抗样本。我们提出了一种用于该任务的新颖方法，其通过分析未见过样本的输出配置（即集成中组成树所做出预测的集）来工作。我们的方法适用于任何加性树集成，且不需要训练单独的模型。我们在三种不同的树集成学习器上评估了该方法。我们通过实验表明，我们的方法目前是树集成最好的对抗检测方法。
引用
@article{arxiv.2206.13083,
title = {Adversarial Example Detection in Deployed Tree Ensembles},
author = {Laurens Devos and Wannes Meert and Jesse Davis},
journal= {arXiv preprint arXiv:2206.13083},
year = {2022}
}