MIST：基于 McDiarmid 界的可靠流式决策树用于在线类别增量学习

流式决策树是开放世界持续学习的天然候选者，因为它们执行局部更新、享有有界内存和静态决策边界。尽管如此，它们在在线类别增量学习中仍然会失败，原因在于两个耦合的校准错误：(i) 随着类别数 K 的增加，其分裂准则变得不可靠；(ii) 分裂时缺乏知识迁移。这两个失败有一个共同的根源：信息增益的范围本质上与 log2 K 成比例。因此，任何由此导出的 Hoeffding 式置信半径必然随类别数增长，这使得一个与 K 无关的分裂准则在结构上不可能实现，从而剥夺了将流式决策树应用于持续学习的潜在优势。为了解决这个问题，我们提出了 MIST（McDiarmid 增量流式树），它通过三个集成组件来解决这两个失败：(i) 一个用于 Gini 分裂的、与 K 无关的紧致 McDiarmid 置信半径，它充当结构正则化器；(ii) 一个贝叶斯继承协议，通过截断高斯矩将父节点统计量投影到子节点，当分裂最保守时，其方差缩减保证最强；(iii) 每叶 KLL 分位数草图，它支持从单一数据结构进行连续阈值评估和几何自适应叶预测。在标准和压力测试表格数据流上，MIST 在近高斯基准上与全局参数方法具有竞争力，并且在非高斯几何结构上表现出独特的鲁棒性，而当前最优基准方法在此类结构上会崩溃。