关于基于森林的增强类学习
机器学习
2025-07-15 v2
摘要
决策树和森林在各种实际应用中取得了成功,大多数工作在训练数据中已知所有测试类别。在本工作中,我们关注基于森林的增强类学习,其中增强类可能出现在测试数据中,但不出现在训练数据中。我们将增强类的信息融入树的分裂中,即引入增强基尼不纯度这一新的分裂准则,以利用来自测试分布的一些无标签数据。随后,我们开发了基于森林的增强类学习方法(简称 LACForest),该方法根据增强基尼不纯度构建浅层森林,然后利用伪标签增强实例分裂森林以获得更好的性能。我们还基于我们的增强基尼不纯度,通过优化目标开发了深度神经森林,这本质上利用了神经网络对森林的表示能力。在理论上,我们给出了增强基尼不纯度的收敛性分析,最后进行了实验以评估我们的方法。代码可在 https://github.com/nju-xuf/LACForest 获取。
引用
@article{arxiv.2505.09294,
title = {On the Learning with Augmented Class via Forests},
author = {Fan Xu and Wuyang Chen and Wei Gao},
journal= {arXiv preprint arXiv:2505.09294},
year = {2025}
}
备注
Accepted by IJCAI 2025