以 AI 对抗 AI：利用基础模型确保 AI 赋能的安全关键系统
人工智能
2025-11-26 v1
摘要
将 AI 组件尤其是深度神经网络 (DNN) 集成到航空航天和自动驾驶车辆等安全关键系统中，带来了确保性的根本性挑战。AI 系统的不透明性，以及高层需求与低层网络表征之间的语义差距，构成了传统验证方法的障碍。这些 AI 特定挑战因需求工程中长期存在的模糊性问题（如自然语言规格的歧义）以及形式化规模瓶颈而得到放大。我们提出一种利用 AI 本身应对这些挑战的方案，包含两个互补组件。REACT (Requirements Engineering with AI for Consistency and Testing) 采用大语言模型 (LLM) 桥接非正式自然语言需求与形式化规格，实现早期验证与验证。SemaLens (Semantic Analysis of Visual Perception using large Multi-modal models) 利用视觉语言模型 (VLM) 基于人类可理解概念，对 DNN 基于感知的系统进行推理、测试和监控。通过这两个组件，提供了从非正式需求到经验证实施的全面流程。
引用
@article{arxiv.2511.20627,
title = {Fighting AI with AI: Leveraging Foundation Models for Assuring AI-Enabled Safety-Critical Systems},
author = {Anastasia Mavridou and Divya Gopinath and Corina S. Păsăreanu},
journal= {arXiv preprint arXiv:2511.20627},
year = {2025}
}