使用卡方拟合优度检验检测神经网络中的概念漂移

随着深度学习模型的采用超出了人类验证的能力，需要元算法来确保可靠的模型推断。概念漂移检测是一个致力于识别统计偏移的领域，在监控可能遇到与其训练数据分布特征相悖的推断数据的神经网络时未得到充分利用。鉴于模型架构、应用和数据集的多样性，概念漂移检测算法能够适应不同的推断场景非常重要。在本文中，我们引入了 $\chi^2$ 拟合优度假设检验作为一种漂移检测元算法的应用，将其应用于针对机器视觉训练的多层感知机、卷积神经网络和 Transformer，并在它们在推断过程中暴露于模拟漂移时进行检测。为此，我们展示了如何在不直接检查推断输出的情况下，检测由概念漂移导致的意外准确率下降。我们的方法通过确保模型在各种条件下持续评估其可靠性来增强安全性。