决策树桩集成的（去）随机化平滑
机器学习
2022-11-16 v2 人工智能
密码学与安全
摘要
基于树的模型被用于金融与医学等许多高风险应用领域，其中鲁棒性与可解释性至关重要。然而，相较于聚焦神经网络的方法，用于提升和证明树模型鲁棒性的方法严重匮乏。针对这一重要挑战，我们提出面向决策树桩集成的确定性平滑。尽管大多数先前关于随机化平滑的工作侧重于在输入随机化下近似评估任意基模型，我们工作的关键洞见是决策树桩集成可通过动态规划实现精确且高效的评估。重要的是，我们获得了确定性鲁棒性证书，即便在数值与类别特征联合的情况下（真实世界中普遍存在的设定）亦如此。此外，我们推导了随机化下平滑决策树桩的 MLE 最优训练方法，并提出了两种提升其可证明鲁棒性的增强方法。在计算机视觉与表格数据任务上的广泛实验评估表明，我们的方法相较基于树模型的现有最优方法取得了显著更高的认证准确率。我们在 https://github.com/eth-sri/drs 发布了所有代码与训练模型。
引用
@article{arxiv.2205.13909,
title = {(De-)Randomized Smoothing for Decision Stump Ensembles},
author = {Miklós Z. Horváth and Mark Niklas Müller and Marc Fischer and Martin Vechev},
journal= {arXiv preprint arXiv:2205.13909},
year = {2022}
}
备注
NeurIPS 2022 Paper