面向移动应用中基于AI系统的审计需求
机器学习
2023-03-10 v1 人工智能
密码学与安全
计算机视觉与模式识别
摘要
高级驾驶辅助系统等各类移动应用正日益采用基于人工智能（AI）的功能。通常使用的是深度神经网络（DNN），因其在真实驾驶环境中出现的感知、预测或规划等艰巨任务上提供最佳性能。然而，UNECE R 155或ISO 26262等现行法规未考虑AI相关方面，仅适用于传统的基于算法的系统。AI特定标准或规范的缺失阻碍了实际应用，并可能损害用户信任水平。因此，有必要扩展现有的安全与安保标准化，以涵盖AI特定挑战与需求。为迈向适宜法规迈出一步，我们提出50项技术需求或最佳实践，扩展现有法规并满足基于DNN系统的具体需要。通过对一个基于DNN的交通标志识别系统使用其中三项拟议需求进行示范性审计，我们展示了所提需求的适用性、有用性与意义。
引用
@article{arxiv.2302.13567,
title = {Towards Audit Requirements for AI-based Systems in Mobility Applications},
author = {Devi Padmavathi Alagarswamy and Christian Berghoff and Vasilios Danos and Fabian Langer and Thora Markert and Georg Schneider and Arndt von Twickel and Fabian Woitschek},
journal= {arXiv preprint arXiv:2302.13567},
year = {2023}
}
备注
To appear in Proceedings of the 9th International Conference on Information Systems Security and Privacy