中文

关于基于森林的增强类学习

机器学习 2025-07-15 v2

摘要

决策树和森林在各种实际应用中取得了成功,大多数工作在训练数据中已知所有测试类别。在本工作中,我们关注基于森林的增强类学习,其中增强类可能出现在测试数据中,但不出现在训练数据中。我们将增强类的信息融入树的分裂中,即引入增强基尼不纯度这一新的分裂准则,以利用来自测试分布的一些无标签数据。随后,我们开发了基于森林的增强类学习方法(简称 LACForest),该方法根据增强基尼不纯度构建浅层森林,然后利用伪标签增强实例分裂森林以获得更好的性能。我们还基于我们的增强基尼不纯度,通过优化目标开发了深度神经森林,这本质上利用了神经网络对森林的表示能力。在理论上,我们给出了增强基尼不纯度的收敛性分析,最后进行了实验以评估我们的方法。代码可在 https://github.com/nju-xuf/LACForest 获取。

关键词

引用

@article{arxiv.2505.09294,
  title  = {On the Learning with Augmented Class via Forests},
  author = {Fan Xu and Wuyang Chen and Wei Gao},
  journal= {arXiv preprint arXiv:2505.09294},
  year   = {2025}
}

备注

Accepted by IJCAI 2025