混合交通中自主性的可扩展监督协作

自主性的进步在许多领域具有带来显著积极成果的潜力，但实现其安全部署仍是一个开放问题。本工作的启发式问题是：在安全关键场景中，我们能否避免始终需要一个人监督一台机器？本工作通过考虑远程分布的人类监督者并研究自主智能体如何协作以实现安全性，将这一可扩展监督问题形式化。本文聚焦于自主车辆（AV）汇入由 AV 与人类驾驶员混合组成的交通这一安全关键情境。分析建立了人类监督需求的高可靠性上界。它进一步表明，AV 协作可将监督可靠性提高数个数量级，并且反直觉地，随着更多 AV 的采用，所需监督者（每 AV）更少。这些分析结果利用了排队论分析、顺序统计量与一种保守的、基于可达性的方法。一个关键结论是协作在实现自主性大规模部署中的潜在价值。尽管本工作聚焦于 AV，该可扩展监督框架对更广泛的自主控制挑战可能具有独立意义。