面向有意义人类控制的自动驾驶汽车与交通系统设计
系统与控制
2023-03-15 v2 系统与控制
摘要
确保对自动驾驶汽车的操控权并非易事,未能做到这一点会严重危害道路使用者的生命。需要一种综合方法,以确保包括驾驶员、乘员、车辆设计者和政府在内的所有主体各司其职。尽管已取得进展,但对该问题的综合性方法被忽视,而这主要通过考虑有意义人类控制(MHC)得以解决。在本研究中,引入了集成系统邻近框架与运行过程设计方法,以在MHC考量下协助联网自动驾驶汽车(CAV)的开发。这些为车辆设计者和政府这两个重要影响利益相关方提供了对车辆与交通系统设计的更深理解及基础。该框架包含对系统方法的扩展,也考虑了通过更新改善MHC的途径:要么是隐式邻近更新,要么是显式远端更新。该过程及其重要性在三个近期实践案例中得以展示。最后,向政府及监管机构以及汽车产业发出行动呼吁,确保MHC过程被明确纳入政策、法规与设计流程,以保障CAV未来以负责任、安全且人类可接受的方式推进。
引用
@article{arxiv.2303.05091,
title = {Designing Automated Vehicle and Traffic Systems towards Meaningful Human Control},
author = {Simeon C. Calvert and Stig Johnsen and Ashwin George},
journal= {arXiv preprint arXiv:2303.05091},
year = {2023}
}
备注
In: Research Handbook on Meaningful Human Control of Artificial Intelligence Systems. Edward Elgar Publishing