验证深度学习对分布外领域的泛化能力

深度神经网络在机器学习领域发挥着至关重要的作用，在各种应用领域都展现出最先进的性能。然而，尽管取得了成功，基于DNN的模型有时可能会在泛化方面遇到挑战，即可能无法处理训练期间未遇到的输入。在将深度学习部署到安全关键任务以及具有显著可变性的现实世界环境中时，这一局限性是一个重大挑战。我们引入了一种新颖的方法，利用DNN验证技术来识别对先前未遇到的输入域展现出鲁棒泛化能力的DNN驱动决策规则。我们的方法通过测量独立训练的深度神经网络在该输入域中输入的一致性水平来评估域内的泛化能力。我们还通过使用现成的DNN验证引擎高效地实现了我们的方法，并在有监督和无监督的DNN基准测试上进行了广泛评估，包括一个用于互联网拥塞控制的深度强化学习系统——展示了我们的方法在现实世界环境中的适用性。此外，我们的研究为形式化验证引入了一个新目标，为缓解在现实场景中部署DNN驱动系统相关的挑战提供了前景。