数据分割能改善预测吗?
统计方法学
2016-01-20 v2 统计计算
摘要
数据分割将数据分为两部分。一部分留作模型选择。在某些应用中,第二部分用于模型验证,但我们使用这部分来估计所选模型的参数。我们关注的是为未来观测值构建可靠预测分布的问题。我们使用对数评分来评判预测性能。我们比较了用于预测的全数据策略与数据分割策略。我们展示了全数据得分如何分解为模型选择、参数估计和数据重用成本。当数据重用成本较高时,数据分割更受青睐。我们在四种模拟场景下研究了这些策略的相对性能。我们引入了一种名为 SAFE 的混合估计量,它使用一部分数据进行模型选择,但使用两部分数据进行估计。我们讨论了选择使用分割数据分析还是全数据分析的问题。
引用
@article{arxiv.1301.2983,
title = {Does Data Splitting Improve Prediction?},
author = {Julian J. Faraway},
journal= {arXiv preprint arXiv:1301.2983},
year = {2016}
}