使用深度学习进行回归时切记修正偏差！
机器学习
2022-03-31 v1 机器学习
摘要
在训练用于最小二乘回归的深度学习模型时，我们不能期望最终模型（在固定训练时间后或基于留出数据集上的表现选定）的训练误差残差之和为零。这可能引入系统性误差，若我们关注许多数据点上的总聚合性能，该误差会累积。我们建议将训练后调整机器学习模型的偏差作为默认后处理步骤，其能有效解决该问题。误差累积的严重性以及偏差修正的有效性在示例实验中得到了证明。
引用
@article{arxiv.2203.16470,
title = {Remember to correct the bias when using deep learning for regression!},
author = {Christian Igel and Stefan Oehmcke},
journal= {arXiv preprint arXiv:2203.16470},
year = {2022}
}
备注
8 pages, 3 figures, 2 tables