基于 Tsallis-Polarization 组合的决策树混合不纯度度量：理论基础与实证评估

我们提出了集成 Tsallis 组合（ITC），这是一种用于决策树学习的混合不纯度度量，将标准化 Tsallis 熵与指数极化组件相结合。虽然许多现有度量在计算效率与理论严谨性之间作出牺牲，但 ITC 提供了一个在两者之间取得平衡的数学原则框架。核心创新在于 Tsallis 熵的信息论基础与极化组件对分布不对称性敏感性之间的互补性。我们建立了关键理论属性——在明确参数条件下下的凹性、proper 边界条件以及与经典度量的联系——并为混合策略提供了严格的论证。通过在七个基准数据集上进行大规模比较评估，比较 23 种不纯度度量并进行五次重复实验，我们显示简单参数化度量（Tsallis $\alpha=0.5$）实现了最高平均准确率（91.17%），而 ITC 变体产生成绩相当（88.38-89.16%），但具有强大的理论保证。统计分析（Friedman 检验：$\chi^2=3.89$，$p=0.692$）揭示了顶尖选手之间不存在显著的全局差异，表明在许多应用中，这些方法在实际操作中是等价的。ITC 的价值在于其坚实的理论基础——在合适条件下证明的凹性、灵活的参数化（$\alpha$、$\beta$、$\gamma$）以及 $O(K)$ 级别的计算效率——这使其成为在理论保证至关重要时的一个严谨、可推广的替代方案。我们提供了基于应用优先事项的度量选择指南，并发布了开源实现，以促进可重复性和进一步研究。