新特征效用的快速预测

我们研究新特征效用预测问题：统计检验向数据表示中添加一个新特征是否能提高监督学习任务的预测准确性。在许多应用中，识别新的信息性特征是提升性能的主要途径。然而，通过重新训练预测器来评估每个潜在特征可能代价高昂。本文描述了一种高效的、与学习器无关的技术，基于当前预测器的输出，无需重新训练即可估计新特征的效用。该方法通过推导损失降低潜力与新特征与当前预测器损失梯度之间的相关性而得到。这导致了一个简单而强大的假设检验程序，我们证明了其一致性。我们的理论分析伴随着在标准基准和大规模工业数据集上的实证评估。