AutoSpec：神经网络规范的自动生成
机器学习
2024-10-25 v2 软件工程
摘要
神经网络在增强学习系统中的应用日益广泛，凸显了模型安全性和鲁棒性的重要性，尤其是在安全关键领域。尽管神经网络形式化验证已取得进展，但当前实践要求用户手动定义模型规范——即规定模型在各种场景下预期行为的属性。然而，这一手动过程容易出错、范围有限且耗时。在本文中，我们介绍了AutoSpec，这是首个能够为增强学习系统中的神经网络自动生成全面且准确规范框架。我们还提出了第一套用于评估模型规范准确性和覆盖率的指标，为未来比较建立了基准。我们在四个不同应用上的评估表明，AutoSpec优于人工定义的规范以及本研究中引入的两种基线方法。
关键词
引用
@article{arxiv.2409.10897,
title = {AutoSpec: Automated Generation of Neural Network Specifications},
author = {Shuowei Jin and Francis Y. Yan and Cheng Tan and Anuj Kalia and Xenofon Foukas and Z. Morley Mao},
journal= {arXiv preprint arXiv:2409.10897},
year = {2024}
}