培育森林群岛:通过岛屿协同进化演化鲁棒决策树
机器学习
2024-12-19 v1 神经与进化计算
摘要
决策树因其简单性和可解释性而在机器学习中被广泛使用,但它们通常缺乏对对抗攻击和数据扰动的鲁棒性。本文提出了一种新颖的基于岛屿的协同进化算法 (ICoEvoRDF),用于构建鲁棒的决策树集成。该算法在多个岛屿上运行,每个岛屿包含决策树种群和对抗扰动种群。每个岛屿上的种群独立进化,并定期在岛屿之间迁移表现最优的决策树。这种方法促进了多样性并增强了解空间的探索,从而产生更鲁棒、更准确的决策树集成。ICoEvoRDF 利用博弈论中著名的混合纳什均衡概念进行集成加权,进一步改善了结果。ICoEvoRDF 在 20 个基准数据集上进行了评估,证明了其在优化对抗精度和极小化极大遗憾方面优于 SOTA 方法。ICoEvoRDF 的灵活性允许集成来自各种现有方法的决策树,为组合多样化解决方案提供了统一框架。我们的方法为开发鲁棒且可解释的机器学习模型提供了一个有前景的方向。
引用
@article{arxiv.2412.13762,
title = {Cultivating Archipelago of Forests: Evolving Robust Decision Trees through Island Coevolution},
author = {Adam Żychowski and Andrew Perrault and Jacek Mańdziuk},
journal= {arXiv preprint arXiv:2412.13762},
year = {2024}
}