面向安全应用的成本感知鲁棒树集成模型

攻击者操纵安全分类器特征存在多种成本。这些成本在特征间以及变化方向上是不对称的，无法被现有基于 $L_p$-范数鲁棒性的成本模型精确刻画。本文利用此类领域知识来提高规避分类器的攻击成本，具体而言针对安全任务广泛使用的树集成模型。我们提出一种新的成本建模方法，将特征操纵成本作为约束捕获，然后将该成本驱动约束整合进节点构建过程以训练鲁棒树集成。在训练过程中，我们利用该约束寻找给定特征操纵成本下可能被扰动的数据点，并使用一种新的鲁棒训练算法优化树的质量。我们的成本感知训练方法可应用于不同类型的树集成，包括梯度提升决策树和随机森林模型。以 Twitter 垃圾邮件检测为案例，评估结果显示相比基线我们可将攻击成本提高 10.6 倍。此外，我们使用成本驱动约束的鲁棒训练方法相比使用 $L_\infty$-范数成本模型的最先进训练方法，能达到更高准确率、更低误报率和更强的成本感知鲁棒性。我们的代码见 https://github.com/surrealyz/growtrees。