面向影响学习器归纳偏置趋近真实值的误差度量
机器学习
2021-05-05 v1
摘要
人工智能应用于多个领域，并被信赖于需要高度信任的决策。对于回归方法，若其能逼近真实输入输出关系并在训练数据边界之外准确表现，则可增加信任。但往往测试集外的表现很差，尤其在数据稀疏时。这是因为条件均值（在许多场景中是“真实值”的良好近似）仅当数据集满足限制性假设时才可用常规 Minkowski-r 误差度量建模，而许多真实数据集违背这些假设。为此，有若干利用先验知识逼近“真实值”的方法。然而，先验知识并非总可获得，本文研究在此类场景下误差度量如何影响回归方法建模“真实值”的能力。研究表明当前误差度量会产生无益的偏置，并推导出一种不具备此行为的新误差度量。在 36 个具有不同特征的代表性数据集上的测试表明，它在确定“真实值”及在训练数据范围之外区域给出改进预测方面更具一致性。
引用
@article{arxiv.2105.01567,
title = {Towards Error Measures which Influence a Learners Inductive Bias to the Ground Truth},
author = {A. I. Parkes and A. J. Sobey and D. A. Hudson},
journal= {arXiv preprint arXiv:2105.01567},
year = {2021}
}