“只管驾驶”：城市驾驶语义分割中的颜色偏置缓解

偏置可能在不知情的情况下渗入人工智能技术。通常，开创性的深度学习网络将准确率的提升置于其他一切之上。在本文中，我们尝试通过迭代训练的反学习算法，缓解城市驾驶场景中语义分割模型所遇到的偏置。卷积神经网络已被证明依赖于颜色和纹理而非几何。当安全关键应用（如自动驾驶汽车）在测试时遇到由光照变化或季节性等引起的协变量偏移图像时，这会带来问题。偏置反学习的概念性证明已在 MNIST 等简单数据集上展示。然而，该策略从未应用于高度可变训练数据（如城市场景）像素级语义分割的安全关键领域。基线模型和偏置反学习方案的训练模型已在颜色操纵的验证集上测试性能，显示出与原始 RGB 图像相比 mIoU 最高达 85.50% 的差异——证实了分割网络强烈依赖训练数据中的颜色信息进行分类。偏置反学习方案在处理这种协变量偏移方面表现出最高达 61% 的改进（最佳观测情况）——并且在分类“人”和“车辆”类别时相比基线模型表现始终更优。