深度神经网络输出范围分析的简单算法
机器学习
2026-01-28 v4 概率论
机器学习
摘要
本文提出了一种用于深度神经网络 (DNN) 输出范围估计问题的新方法，通过集成针对受限域操作并确保收敛于全局最优的模拟退火 (Simulated Annealing, SA) 算法。该方法有效解决了由于缺乏局部几何信息以及 DNN 高度非线性固有的挑战，使其适用于各种网络结构，特别是针对因其实际重要性而受到广泛关注的残差网络 (ResNet)。与现有方法不同，本文算法对神经网络的内部结构假设极少，从而扩展了其适用性到复杂模型。理论分析保证了收敛性，而大量实证评估——包括针对具有多个局部极小值的函数的优化测试——证明了该算法在导航非凸响应曲面方面的鲁健性。实验结果突出了该算法在准确估计 DNN 输出范围方面的效率，即便在高度非线性和复杂约束的情境下也是如此。为保证可重复性，我们已在 GitHub 仓库上公开提供所用 Python 代码和数据集。
引用
@article{arxiv.2407.02700,
title = {A simple algorithm for output range analysis for deep neural networks},
author = {Helder Rojas and Nilton Rojas and Espinoza J. B. and Luis Huamanchumo},
journal= {arXiv preprint arXiv:2407.02700},
year = {2026}
}