针对对抗样本的高效鲁棒决策树训练
机器学习
2020-12-21 v1
摘要
如今我们将机器学习用于需要模型既可理解又鲁棒的敏感任务。尽管决策树等传统模型是可理解的,但它们易遭受对抗攻击。当使用决策树来区分用户良性与恶意行为时,对抗攻击允许用户通过扰动模型接收的输入来有效规避模型。我们可以使用考虑对抗攻击的算法来拟合更鲁棒的决策树。在这项工作中,我们提出了一种名为GROOT的算法,其速度比最先进工作快两个数量级,同时在对抗攻击下的准确率上具有竞争力。GROOT接受一种直观且允许的威胁模型。先前的威胁模型局限于距离范数,而我们允许使用用户指定参数扰动每个特征:要么是最大距离,要么是对扰动方向的约束。先前工作假设良性和恶意用户都试图规避模型,但我们允许用户选择哪些类别执行对抗攻击。此外,我们引入超参数rho,使GROOT能够在常规和对抗设置下权衡性能。
引用
@article{arxiv.2012.10438,
title = {Efficient Training of Robust Decision Trees Against Adversarial Examples},
author = {Daniël Vos and Sicco Verwer},
journal= {arXiv preprint arXiv:2012.10438},
year = {2020}
}