量化机器学习应用中的分布迁移与不确定性以提升模型鲁棒性

分布迁移指训练数据集和测试数据集之间的统计属性不同，这在现实世界的机器学习应用中是一个重要挑战，直接影响模型的泛化和鲁棒性。在本研究中，我们利用合成数据系统性地处理分布差异，探索模型适应和泛化。我们的调查旨在识别在不同数据分布之间成功进行模型适应的先决条件，同时量化其相关不确定性。具体而言，我们使用 Van der Waals 方程生成合成数据，并采用 Kullback-Leibler 散度、Jensen-Shannon 距离和 Mahalanobis 距离等定量 measure 来评估数据相似性。这些度量使我们能够评估模型准确性并量化由于数据分布迁移而导致的预测不确定性。我们的发现表明，使用统计量（如 Mahalanobis 距离）来确定模型预测是否位于低误差“插值区间”或高误差“外推区间”，为评估分布迁移和模型不确定性提供了一种互补方法。这些见解对于增强模型鲁棒性和泛化性具有重大价值，这对于机器学习应用在现实世界场景中的成功部署至关重要。