现代测试时适应算法中的过度确定现象

当神经网络面对与训练集偏离的陌生数据时，这表明出现了域迁移。虽然这些网络对输入输出预测，但它们通常未能考虑对这些新观察其熟悉程度的水平。当前流行的方法通过抑制模型熵来进行测试时适应，却无意中产生了在亚最优校准方面困难的模型——我们称之为过度确定现象。这种预测中的过度确定在域迁移场景中尤为危险，可能导致误信。本文提出了一种解决方案，不仅保持准确性，还解决了校准问题，通过缓解过度确定现象来实现。为此，我们引入一种确定性正则化器，动态调整伪标签置信度，同时考虑主干熵和逻辑范数。我们的方法在保持准确性持平的同时，在期望校准误差和负对数似然方面实现了最佳性能。