从深度学习模型推断数据前置条件以实现部署中的可信预测

深度学习模型在开发阶段基于对数据的特定假设进行训练，随后在部署阶段用于预测。在部署过程中，对模型在未见数据上的预测可信度进行推理至关重要。现有的传统软件规约与验证方法无法胜任此任务，因为它们无法处理深度神经网络模型架构的复杂性及其预期输出。在本工作中，我们提出了一种新技术，利用从神经网络计算中推导出的规则来推断DNN模型的数据前置条件，以确定其预测的可信度。我们的方法DeepInfer涉及为训练好的DNN模型引入一种新颖的抽象，该抽象能够利用Dijkstra谓词转换器语义进行最弱前置条件推理。通过推导神经网络抽象表示归纳类型的规则，我们可以克服从输出层到输入层的反向非线性计算所产生的矩阵维度问题。我们利用每种激活函数的规则进行最弱前置条件计算，从给定的深度神经网络最终输出的后置条件出发，逐层计算前置条件。我们使用来自五个不同来源的四个不同数据集，在29个真实世界的DNN模型上广泛评估了DeepInfer，并展示了其相对于密切相关工作的实用性、有效性和性能提升。DeepInfer能够高效地检测高精度模型的正确与错误预测，具有高召回率（0.98）和高F1分数（0.84），并且相较于先前技术SelfChecker有显著改进。DeepInfer的平均运行时开销很低，对于所有未见数据集为0.22秒。我们还使用相同的硬件设置比较了运行时开销，发现DeepInfer比SelfChecker快3.27倍。