面向汽车应用中基于 AI 的软件元素的内在多样化冗余安全机制

本文探讨了人工智能算法，特别是基于 AI 的软件元素，在自动驾驶系统中的角色和挑战。这些 AI 系统在复杂高维环境中执行实时关键功能时至关重要。它们处理诸如多模态感知、认知以及运动规划、车道保持和紧急制动等决策任务。一个主要关注点涉及 AI 模型在其初始训练数据之外进行泛化的能力（和必要性）。这种泛化问题在实时场景中变得明显，因为模型经常遇到其训练或验证数据中未表示的输入。在这种情况下，尽管面临分布或领域偏移，AI 系统仍必须有效运行。本文研究了在自动驾驶等安全关键应用中过度自信的 AI 模型所带来的风险。为了减轻这些风险，提出了训练 AI 模型的方法，这些方法有助于在不产生过度自信的情况下保持性能。这涉及实现确定性报告架构并确保训练数据的多样性。尽管存在各种基于分布的方法来为 AI 模型提供安全机制，但注意到对这些方法的系统评估存在明显不足，尤其是在安全关键汽车应用的背景下。文献中的许多方法不能很好地适应安全关键边缘应用所需的快速响应时间。本文回顾了这些方法，讨论了它们在安全关键应用中的适用性，并强调了它们的优势和局限性。本文还提出了潜在的改进措施，以在快速准确决策过程的背景下增强自动驾驶车辆中 AI 算法的安全性和可靠性。