基于轨迹的难度评分：为表格数据可靠学习提供方法
机器学习
2026-05-26 v1
摘要
梯度提升树在表格数据上取得优异性能，但常遗漏大量预测不佳的实例。我们引入基于轨迹的难度评分 (TDS)，这是一种从每棵树的累计预测轨迹中派生的实例级难度估计器。对于每个实例，我们计算可解释的轨迹描述符 (如方差、振荡峰值、符号切换及尾部稳定性)，并训练轻量级回归模型预测持留损失。经验累积分布函数校准后，该信号转化为 [0,1] 区间的评分，支持难案例排序。在多样化的表格基准测试和集成规模下，TDS 对错误具有较强的秩相关性，优于既定的实例硬度与不确定性基准，在分类任务中表现突出，在回归任务中亦保持竞争力。随后我们展示，单一难度信号提升多项数据挖掘工作流程：基于难度的主动学习实现标签高效训练，难度阈值选择性预测在风险-覆盖率之间取得改进，TDS 分层（Monondrian）保宊预测实现更均匀的条件覆盖率。最后，通过聚类高 TDS 实例并结合 SHAP 归因，揭示一组以紧凑特征值范围为特征的连贯失效模式，支持错误分析与针对性数据获取。
引用
@article{arxiv.2605.24680,
title = {Trajectory-Based Difficulty Scoring for Reliable Learning on Tabular Data},
author = {Tomer Lavi and Bracha Shapira and Nadav Rappoport},
journal= {arXiv preprint arXiv:2605.24680},
year = {2026}
}