基于极小化极大遗憾的鲁棒决策树构建的协同进化算法
机器学习
2023-12-15 v1 神经与进化计算
摘要
近年来，人们对开发能够抵御对抗攻击的鲁棒机器学习（ML）模型越来越感兴趣，其中包括最广泛采用、高效且可解释的 ML 算法之一——决策树（DT）。本文提出了一种新颖的协同进化算法（CoEvoRDT），旨在创建能够处理对抗环境中噪声高维数据的鲁棒决策树。受传统决策树算法局限性的启发，我们利用自适应协同进化，使决策树能够从与扰动输入数据的交互中学习和进化。CoEvoRDT 交替进化竞争种群——决策树和扰动特征，从而能够构建具有所需属性的决策树。CoEvoRDT 易于适应各种目标度量，允许使用定制的鲁棒性标准，如极小化极大遗憾。此外，CoEvoRDT 有潜力通过将其结果（它们产生的决策树）纳入初始种群并在协同进化过程中优化它们，来改进其他最先进方法的结果。受博弈论启发，CoEvoRDT 利用混合纳什均衡来增强收敛性。该方法在 20 个流行数据集上进行了测试，与 4 种最先进算法相比显示出优越的性能。它在 13 个数据集上以对抗准确率指标优于所有竞争方法，在全部 20 个数据集上以极小化极大遗憾指标优于所有竞争方法。强大的实验结果和选择误差度量的灵活性使 CoEvoRDT 成为在实际应用中构建鲁棒决策树的一种有前景的方法。
引用
@article{arxiv.2312.09078,
title = {Coevolutionary Algorithm for Building Robust Decision Trees under Minimax Regret},
author = {Adam Żychowski and Andrew Perrault and Jacek Mańdziuk},
journal= {arXiv preprint arXiv:2312.09078},
year = {2023}
}