损失估计器改善模型泛化能力
机器学习
2021-03-08 v1 机器学习
摘要
随着采用 AI 方法进行临床诊断的兴趣日益增加，确保此类工具安全部署的重要一步是使模型不仅产生准确预测，而且不泛化到训练数据未提供有意义证据的数据分布。现有用于确保模型预测分布与真实分布相似的方法依赖于固有的难以校准的显式不确定性估计器。在本文中，我们提出使用对比训练目标与预测模型共同训练一个损失估计器，以直接估计预测不确定性。有趣的是，我们发现除产生良好校准的不确定性外，该方法还改善了预测器的泛化行为。利用皮肤病学用例，我们展示了损失估计器对模型泛化的影响，既体现在分布内数据上的保真度，也体现在检测训练期间未见的分布外样本或新类别的能力。
引用
@article{arxiv.2103.03788,
title = {Loss Estimators Improve Model Generalization},
author = {Vivek Narayanaswamy and Jayaraman J. Thiagarajan and Deepta Rajan and Andreas Spanias},
journal= {arXiv preprint arXiv:2103.03788},
year = {2021}
}