面向安全与伦理自主车辆的人类在环机器学习

机器学习 (ML) 的快速进步催生了自主车辆 (AV) 的新趋势。ML 算法在解释传感器数据、预测潜在危险和优化导航策略方面发挥着关键作用。然而，在复杂场景（如复杂交叉口、多样化环境、变化轨迹和复杂任务）中实现完全自主性仍具有挑战性，数据标注成本仍是重要瓶颈。人类在复杂情境下的适应性和鲁棒性激励将人类纳入 ML 流程中，利用其创造力、伦理判断和情感智能以提高 ML 的效果。我们将这种方法称为人类在环机器学习 (HITL-ML)。为实现安全与伦理的自主性，我们综述了 HITL-ML 在 AV 中的应用，聚焦于课程学习 (CL)、人类在环强化学习 (HITL-RL)、主动学习 (AL) 和伦理原则。在 CL 中，人类专家通过从简单任务逐步过渡到更难的任务来系统性地训练 ML 模型。HITL-RL 通过奖励塑形、动作注入和交互式学习等技术将人类输入显著性地增强了 RL 流程。AL 通过针对需要人类监督标注的特定实例来简化标注过程，减少训练总耗时和成本。伦理原则必须嵌入 AV 以将其行为与社会价值观和规范一致。此外，我们提供了见解并指定了未来研究方向。