人工智能安全关注点景观——一种支持基于AI的自主系统安全保证的方法论
机器学习
2024-12-19 v1 人工智能
摘要
人工智能（AI）已成为一项关键技术，推动着众多应用领域的进步。将其集成到现代自主系统中需要保证安全性。然而，在包含AI组件的系统中保证安全性是一项重大挑战。缺乏具体规范，以及运行环境和系统本身的复杂性，导致了不确定行为的各个方面，并使为系统安全推导令人信服的证据变得复杂。尽管如此，学者们提出要彻底分析和缓解AI特有的不足，即所谓的AI安全关注点，这为支持令人信服的保证案例提供了关键证据。在本文中，我们基于这一思想，提出了所谓的“AI安全关注点景观”，这是一种新颖的方法论，旨在通过系统性地证明不存在AI安全关注点，来支持基于AI的系统的安全保证案例的创建。通过一个涉及无人驾驶区域列车的案例研究，展示了该方法论的应用，证明了其实用性和有效性。
引用
@article{arxiv.2412.14020,
title = {Landscape of AI safety concerns -- A methodology to support safety assurance for AI-based autonomous systems},
author = {Ronald Schnitzer and Lennart Kilian and Simon Roessner and Konstantinos Theodorou and Sonja Zillner},
journal= {arXiv preprint arXiv:2412.14020},
year = {2024}
}