AI 基于自动化功能的整体安全评估框架的必要性
软件工程
2026-04-01 v2 系统与控制
系统与控制
摘要
驾驶自动化功能的安全可及性(SOTIF)和功能安全(FuSa)分析传统上排除了质量管理(QM)组件(通常不分配来自车辆级 HARA 的 ASIL 要求的组件)于严格的安全影响评估。虽然 QM 组件通常不被归类为安全相关，但近期的人工智能(AI)集成开发现已揭示，此类组件可以导致与 SOTIF 相关的危险风险。遵循新兴的 AI 安全标准(如 ISO/PAS 8800)需要重新评估这些组件的安全考虑。本文检讨了在 AI 组件上进行整体安全分析和风险评估的必要性，强调这些组件在部署于安全关键驾驶系统时，特别是在感知算法中，可能引入具有违反风险接受准则能力的危险。通过案例研究，我们展示了即使在 QM 分类的组件中，AI 驱动的感知系统也可能出现缺陷，导致具有关键安全影响的意外功能行为。通过将理论分析与实际示例相结合，本文论证了为识别和缓解 AI 组件中的风险，必须采用全面的 FuSa、SOTIF 和 AI 标准驱动的方法。这些发现表明，为了应对 AI 提出的不断演变的挑战，确保跨所有组件分类的全面安全保证，必须修订现有的安全框架。
引用
@article{arxiv.2602.05157,
title = {The Necessity of a Holistic Safety Evaluation Framework for AI-Based Automation Features},
author = {Alireza Abbaspour and Shabin Mahadevan and Kilian Zwirglmaier and Jeff Stafford},
journal= {arXiv preprint arXiv:2602.05157},
year = {2026}
}