有意义的人类控制视角下用户对部分自动驾驶系统的感知：特斯拉用户案例研究

部分自动驾驶系统的使用引发了对潜在责任问题的担忧，给这些技术的系统安全、接受度和采用带来了风险。有意义的人类控制概念应运而生，以应对责任鸿沟问题，要求满足两个条件：追踪和追溯。虽然这一概念为自动驾驶系统提供了重要的哲学和设计见解，但目前关于有意义的人类控制如何与这些系统实际用户的主观体验相关联的知识很少。为弥补这一空白，我们的研究旨在调查在真实世界的部分自动驾驶系统中，有意义的人类控制程度与驾驶员对安全性和信任的感知之间的一致性。我们利用了先前从特斯拉“全自动驾驶”（FSD）Beta用户访谈中收集的数据，调查用户感知与系统追踪用户原因的程度之间的一致性。我们发现，系统对用户驾驶任务原因（如安全操作）的追踪与感知安全性和信任相关，尽管存在显著例外。令人惊讶的是，未能追踪变道和刹车原因并不一定与负面的安全性感知相关。然而，系统在危险情况下未能追踪预期操作总是导致低信任度和缺乏安全感。总体而言，我们的分析突显了一致性点，但也指出了感知安全性和信任与有意义的人类控制之间可能存在的差异。我们的结果可以帮助自动驾驶技术开发者在有意义的人类控制下设计系统，并使其被视为安全且值得信赖。