方向盘后的偏见：自动驾驶系统的公平性测试

本文对自动化行人检测进行公平性测试，这是自动驾驶系统中关键但未被充分探索的问题。我们在大规模真实世界数据集上评估了八个最先进的基于深度学习的行人检测器在不同人口群体上的表现。为实现彻底的公平性测试，我们为数据集提供了广泛标注，得到 8,311 张图像，含 16,070 个性别标签、20,115 个年龄标签和 3,513 个肤色标签。我们的发现揭示了显著的公平性问题，尤其与年龄相关。未被检测到儿童的比例比成人高 20.14%。此外，我们探究各种驾驶场景如何影响行人检测器的公平性。我们发现行人检测器在夜间表现出显著的性别偏见，可能加剧社会中普遍存在的女性夜间外出安全担忧。而且，我们观察到行人检测器在特定驾驶条件下可同时展现增强的公平性与更优的性能，这挑战了公平性文献中广泛认可的公平性-性能权衡理论。我们公开发布代码、数据与结果，以支持未来关于自动驾驶公平性的研究。