基于 PyRAT 的神经网络验证
人工智能
2025-09-08 v2 机器学习
摘要
随着人工智能系统日益普及并应用于各种关键领域（医疗、交通、能源等），为其安全性提供保障和信任的需求已不可否认。为此，我们提出了 PyRAT，一个基于抽象解释的工具，用于验证神经网络的安全性和鲁棒性。本文描述了 PyRAT 用于从输入开始寻找神经网络可达状态的不同抽象方法，以及该工具提供快速、准确的神经网络分析的主要特性。PyRAT 已在多项合作中用于确保安全保障，其在 VNN-Comp 2024 中获得第二名，展示了其性能。
引用
@article{arxiv.2410.23903,
title = {Neural Network Verification with PyRAT},
author = {Augustin Lemesle and Julien Lehmann and Tristan Le Gall},
journal= {arXiv preprint arXiv:2410.23903},
year = {2025}
}