软校验和用于标记不可信赖的机器学习替代模型预测及其在原子物理仿真中的应用

训练好的神经网络(NN)作为物理仿真中替代昂贵计算的替代模型备受青睐，但往往不知不觉地被应用于训练数据集中不充分代表的状态。我们提出了一种新颖技术——软校验和，用于科学机器学习，作为一种通用方法来区分可信预测（在分布内数据点上误差较小）与不可信预测（在分布外数据点上误差较大）。通过在现有输出层添加校验节点，我们训练模型以学习编码在NN预测中的选定校验函数，并发现该函数的违反与高预测误差相关。由于校验函数仅依赖于NN预测，我们仅需一次前向传播即可计算任何预测的校验误差， incurring negligible time and memory costs（在计算时间和内存开销方面几乎可以忽略不计）。此外，我们发现将校验函数纳入损失函数并在训练过程中暴露于分布外数据点，可有效改善分布内与分布外预测之间的分离。通过将软校验和应用于物理复杂且高维的非平衡原子物理数据集，我们表明，合理选择的校验误差阈值可有效区隔分布内与分布外预测。