在高级驾驶辅助系统背景下探索可信 AI 评估清单
计算机与社会
2021-03-17 v1 人工智能
软件工程
摘要
人工智能（AI）正日益用于关键应用。因此，对可靠 AI 系统的需求正在迅速增长。2018 年，欧盟委员会任命专家组成 AI 高级别专家组（AI-HLEG）。AI-HLEG 将可信 AI 定义为 1）合法、2）符合伦理、3）稳健，并规定了七项相应关键要求。为帮助开发组织，AI-HLEG 近期发布了可信 AI 评估清单（ALTAI）。我们给出一个说明性案例研究，将 ALTAI 应用于一个依赖机器学习（ML）的高级驾驶辅助系统（ADAS）在研开发项目。我们的经验表明，ALTAI 在很大程度上适用于 ADAS 开发，但涉及人类能动性与透明度的特定部分可忽略。此外，与社会和环境影响相关的更大问题无法由 ADAS 供应商单独解决。我们介绍了计划如何开发 ADAS 以确保符合 ALTAI。最后，我们为 ALTAI 的下一版修订提出三项建议，即生命周期变体、领域特定适配和去除冗余。
引用
@article{arxiv.2103.09051,
title = {Exploring the Assessment List for Trustworthy AI in the Context of Advanced Driver-Assistance Systems},
author = {Markus Borg and Joshua Bronson and Linus Christensson and Fredrik Olsson and Olof Lennartsson and Elias Sonnsjö and Hamid Ebabi and Martin Karsberg},
journal= {arXiv preprint arXiv:2103.09051},
year = {2021}
}
备注
Accepted for publication in the Proc. of the 2nd Workshop on Ethics in Software Engineering Research and Practice