通过基于人类理由的监督实现自动驾驶车辆伦理决策的框架

伦理困境是日常驾驶中的常见挑战，要求人类驾驶员在安全、效率和遵守规则等相互竞争的优先事项之间取得平衡。然而，自动驾驶车辆现有的许多研究都集中在高风险的“电车难题”上，这些情况涉及极端且罕见的场景。尽管这些场景富含伦理意味，但很少适用于真实世界的自动驾驶车辆决策。在实践中，当自动驾驶车辆面临日常伦理困境时，它们似乎通常优先考虑严格遵守交通规则。相比之下，人类驾驶员可能会在特定情境下变通规则，利用基于安全和效率等实际考量的判断。根据有意义的人类控制概念，自动驾驶车辆应对人类理由做出响应，包括驾驶员、弱势道路使用者和政策制定者的理由。这项工作引入了一种新颖的基于人类理由的监督框架，该框架检测自动驾驶车辆行为与预期人类理由不一致的情况，以触发轨迹重新考量。该框架与运动规划和控制系统集成以支持实时适应，使决策能够更好地反映安全、效率和监管考量。仿真结果表明，当当前轨迹与人类理由不一致时，该方法可通过提示重新规划来帮助自动驾驶车辆更有效地应对动态驾驶环境中的伦理挑战。这些发现表明，我们的方法为自动驾驶车辆中更具适应性、以人为中心的决策提供了一条路径。