VERIFAI：一个用于基于人工智能系统设计与分析的工具包
人工智能
2019-02-15 v2
摘要
我们提出VERIFAI，一个用于对包含人工智能（AI）和机器学习（ML）组件的系统进行形式化设计与分析的软件工具包。VERIFAI尤其致力于解决将形式化方法应用于感知与ML组件（包括基于神经网络的组件）时所面临的挑战，并在存在环境不确定性的情况下对系统行为进行建模与分析。我们描述了VERIFAI的初始版本，其以由形式化模型与规约引导的仿真为核心。若干用例通过示例加以说明，包括时序逻辑证伪、基于模型的系统性模糊测试、参数综合、反例分析与数据集增广。
引用
@article{arxiv.1902.04245,
title = {VERIFAI: A Toolkit for the Design and Analysis of Artificial Intelligence-Based Systems},
author = {Tommaso Dreossi and Daniel J. Fremont and Shromona Ghosh and Edward Kim and Hadi Ravanbakhsh and Marcell Vazquez-Chanlatte and Sanjit A. Seshia},
journal= {arXiv preprint arXiv:1902.04245},
year = {2019}
}