面向不平衡与稀疏数据的分类树:面体积比正则化
统计方法学
2021-06-15 v2 统计理论
机器学习
统计理论
摘要
当一个或多个类别训练数据有限时,分类算法面临困难。我们特别关注分类树,因其可解释性和灵活性。当某些类别的数据有限时,由于样本量有限,估计的决策边界常呈不规则形状,导致泛化误差较差。我们提出一种新方法,对决策集的面体积比(SVR)进行惩罚,得到一类新的 SVR-Tree 算法。我们开发了简单且计算高效的实现,同时证明了 SVR-Tree 的估计一致性以及其理想化经验风险最小化器的收敛速率。通过真实数据应用,将 SVR-Tree 与多种为处理不平衡而设计的算法进行比较。
引用
@article{arxiv.2004.12293,
title = {Classification Trees for Imbalanced and Sparse Data: Surface-to-Volume Regularization},
author = {Yichen Zhu and Cheng Li and David B. Dunson},
journal= {arXiv preprint arXiv:2004.12293},
year = {2021}
}
备注
Submitted to Journal of American Statistical Association