将解释融入人机界面以提升自动驾驶车辆的信任与情境感知

自动驾驶车辆通常通过将基于机器学习的预测模型应用于收集的传感器数据来做出复杂决策。虽然这种方法的组合为实时行动提供了基础，但自动驾驶行为对终端用户而言主要仍是不透明的。从这个意义上说，实时决策的可解释性是建立对自动驾驶车辆信任的关键且自然的要求。此外，由于自动驾驶车辆仍会因各种原因导致严重的交通事故，及时向道路使用者传达即将到来的危险可以帮助改善场景理解并防范潜在风险。因此，还需要为自动驾驶车辆提供用户友好的人机界面，以实现有效的人机协作。受此问题启发，我们共同研究了可解释 AI 和人机界面在建立对车辆自主性信任中的作用。我们首先利用“3W1H”（什么、对谁、何时、如何）方法介绍了可解释人机系统的广泛背景。基于这些发现，我们提出了一个用于校准用户对自动驾驶行为信任的情境感知框架。最后，我们在我们的框架上进行了实验，对其进行了用户研究，并通过假设检验验证了实证结果。