利用量词消去增强深度神经网络的安全保障
机器学习
2019-09-23 v1 人工智能
计算机科学中的逻辑
机器学习
摘要
机器学习与深度神经网络（DNN）领域的进展推动了复杂自主系统的快速发展。然而，严格保证此类系统安全运行所固有的复杂性，阻碍了它们在航空航天和医疗器械等安全关键领域的实际应用。因此，人们对探索使用形式化方法等先进数学技术来应对这一挑战的兴趣激增。事实上，这些努力的初步成果令人鼓舞。沿着这些思路，我们提出使用量词消去（QE）——一种形式化方法技术，作为对现有静态分析与验证流程的补充技术。以防撞 DNN 为例，我们展示了如何利用 QE 来精确表述网络中的前向传播范围并分析其鲁棒性。我们讨论了这项正在进行的工作的初步结果，并探讨了扩展此方法和/或将其与其他方法集成以执行 DNN 高级安全保障的未来可能性。
引用
@article{arxiv.1909.09142,
title = {Using Quantifier Elimination to Enhance the Safety Assurance of Deep Neural Networks},
author = {Hao Ren and Sai Krishnan Chandrasekar and Anitha Murugesan},
journal= {arXiv preprint arXiv:1909.09142},
year = {2019}
}