AI 时代自主系统的可信性：安全、安保、可靠性与认证方面的设计挑战
人工智能
2026-05-04 v2 分布式、并行与集群计算
摘要
嵌入式安全关键系统（例如用于下一代汽车和自主平台的系统）的设计，正日益受到系统复杂性升级、软硬件异构性以及智能数据驱动组件集成的挑战。确保此类系统的可信性需要一种跨越多个抽象层次并涵盖设计时与运行时保障的整体方法。传统的可靠性、安全性与安保管理方法，往往难以应对由人工智能 (AI) 和机器学习 (ML) 组件引入的动态与不确定行为，尤其是在严格的实时、功耗和安全约束下。尽管 AI 和 ML 提供了强大的预测、自适应和自优化能力，可以增强系统可信性，但其固有的非确定性、数据依赖性以及形式化保证的缺乏，给验证、确认和认证带来了新的挑战。本文探讨了在 AI 时代设计可信自主与嵌入式系统的新兴方法论、架构和框架。文章重点介绍了在可靠性建模、安全系统设计和认证方法方面的进展，这些方法考虑了不完美的、具备学习能力的组件，旨在弥合 AI 创新与可认证的系统级可信性之间的差距。
引用
@article{arxiv.2604.27807,
title = {Autonomous Systems Dependability in the era of AI: Design Challenges in Safety, Security, Reliability and Certification},
author = {Behnaz Ranjbar and Kirankumar Raveendiran and Sudeep Pasricha and Samarjit Chakraborty and Cecilia Carbonelli and Akash Kumar},
journal= {arXiv preprint arXiv:2604.27807},
year = {2026}
}