用树还是不用树?评估平滑决策边界的影响
机器学习
2022-10-10 v1
摘要
在分析数据集时,评估模型的决策边界需要多平滑才能更好地拟合数据是有用的。本文通过提出量化一个自然找到此类解的算法所产生的“刚性”决策边界应被放宽多少以获得性能改进,来解决这一问题。我们提出的方法从种子决策树(seed DT)的刚性决策边界开始,该决策树用于初始化神经决策树(NDT)。通过训练NDT逐步放宽初始边界来挑战它们。在此过程中,我们测量NDT的性能及其与种子DT的决策一致性。我们展示了这两个度量如何帮助用户在通过模型选择进一步探索之前,弄清楚其模型应具有多强的表达能力。我们通过在模拟和基准数据集上的实验证明了我们方法的有效性。
引用
@article{arxiv.2210.03672,
title = {To tree or not to tree? Assessing the impact of smoothing the decision boundaries},
author = {Anthea Mérida and Argyris Kalogeratos and Mathilde Mougeot},
journal= {arXiv preprint arXiv:2210.03672},
year = {2022}
}
备注
12 pages, 3 figures, 3 tables. arXiv admin note: text overlap with arXiv:2006.11458