利用高效边界传播和并行计算扩展#DNN验证工具
人工智能
2023-12-12 v1
摘要
深度神经网络（DNN）是强大的工具，在从模式识别到复杂机器人问题的许多场景中展现了非凡的结果。然而，它们复杂的设计和缺乏透明度在应用于现实世界应用时引发了安全问题。在此背景下，DNN的形式化验证（FV）已成为提供安全方面可证明保证的有价值解决方案。尽管如此，二元答案（即安全或不安全）对于直接的安全干预（如安全模型排名或选择）可能信息量不足。为了解决这一局限性，FV问题最近被扩展到计数版本，称为#DNN验证，用于计算给定安全属性域中不安全区域的大小。然而，由于问题的复杂性，现有解决方案难以扩展到现实世界的机器人场景，其中DNN可能庞大而复杂。为了解决这一局限性，受FV进展的启发，在这项工作中，我们提出了一种基于可达性分析结合符号线性松弛和并行计算的新策略，以提高现有精确和近似FV用于DNN计数器的效率。在标准FV基准和现实机器人场景上的实证评估显示，可扩展性和效率有显著提升，使得这些技术甚至可用于复杂的机器人应用。
引用
@article{arxiv.2312.05890,
title = {Scaling #DNN-Verification Tools with Efficient Bound Propagation and Parallel Computing},
author = {Luca Marzari and Gabriele Roncolato and Alessandro Farinelli},
journal= {arXiv preprint arXiv:2312.05890},
year = {2023}
}
备注
Accepted at AIRO 2023 the 10th Italian Workshop on Artificial Intelligence and Robotics co-located with the 22nd International Conference of the Italian Association for Artificial Intelligence (AI*IA 2023), Rome, Italy