自动驾驶系统的道德测试
软件工程
2025-05-07 v1
摘要
自动驾驶系统（ADS）测试在其开发中起着至关重要的作用，目前的重点主要在于功能和安全测试。然而，评估自动驾驶系统的非功能性道德，尤其是在不可避免的碰撞场景中的决策能力，对于确保系统的可信度和公众接受度同样重要。不幸的是，由于缺乏普遍的道德原则，测试自动驾驶系统的道德几乎是不可能的。为了应对这一挑战，本文首先从现有的道德实验和公认的社会科学理论中提取了一套道德元原则，旨在捕捉广泛认可且符合常识的自动驾驶系统道德价值观。然后将这些元原则形式化为定量的道德蜕变关系，作为测试预言。此外，我们提出了一个蜕变测试框架，以系统地识别潜在的道德问题。最后，我们使用VIRES VTD模拟器及其内置的自动驾驶系统，阐述了该框架的实现并展示了典型的违规案例。
引用
@article{arxiv.2505.03683,
title = {Moral Testing of Autonomous Driving Systems},
author = {Wenbing Tang and Mingfei Cheng and Yuan Zhou and Yang Liu},
journal= {arXiv preprint arXiv:2505.03683},
year = {2025}
}