缓解驾驶员与半自动驾驶车辆之间出现的不期望涌现行为

联合人-机器人系统中出现的涌现行为无法仅基于对个体智能体的理解来完全预测。通常，机器人行为由优化奖励函数的算法所支配，该奖励函数应定量刻画联合系统的目标。尽管奖励函数可更新以更好地匹配人类需求，但这并不能保证不会与复杂且多变的人类需求出现错配。算法在与人类及内在不可预测的有人类世界中交互时，可能学到不期望的行为，从而进一步与人类用户或旁观者错配。结果，人类可能表现出超出预期的行为，导致机器人以不同方式学习并出现不期望行为。通过这篇短文，我们指出，要为缓解此类不期望涌现行为而设计人机交互，我们需要将人机交互算法的进展与人因知识和专长相辅相成。更具体地，我们倡导一种三管齐下的方法，并以一个极具挑战的安全关键人机交互实例——驾驶员与半自动驾驶车辆的交互——加以说明。不期望涌现行为应通过以下组合来缓解：1）在车辆算法和奖励函数中纳入驾驶员行为机制，2）考虑交互引发的驾驶员行为适应的基于模型的方法，以及 3）以促进驾驶员参与半自动驾驶车辆为中心的、且能透明传达各智能体动作以允许相互支持与适应的交互设计。我们提供了本课题组近期实证工作的例子，希望这能对讨论涌现人机交互有所裨益。