精神蒸馏：数据不足条件下道路场景的精确实时语义分割
计算机视觉与模式识别
2021-04-20 v2 人工智能
机器学习
摘要
道路场景语义分割是实现自动驾驶场景感知的关键技术之一，深度卷积神经网络（CNN）在该任务上的有效性已得到验证。当前最先进的语义分割CNN存在计算量过大以及对大规模训练数据需求过高的问题。受基于微调的迁移学习（FTT）与基于特征的知识蒸馏思想启发，我们提出一种用于跨域知识迁移与高效数据不足网络训练的新知识蒸馏方法，称为精神蒸馏（SD），其使学生网络模仿教师网络以提取通用特征，从而可训练出紧凑且精确的学生网络用于道路场景实时语义分割。进而，为进一步缓解数据不足带来的困扰并提升学生的鲁棒性，提出增强型精神蒸馏（ESD）方法，致力于通过将目标域与邻近域的图像均作为输入来考虑，挖掘更全面的通用特征提取能力。据我们所知，本文是将知识蒸馏应用于少样本学习的开创性工作。在Cityscapes语义分割上利用从COCO2017与KITTI迁移的先验知识所进行的具有说服力的实验表明，我们的方法仅用41.8%的FLOPs即可训练出更优的学生网络（mIOU与高精度准确率分别提升1.4%和8.2%，分割方差为78.2%）（见图1）。
引用
@article{arxiv.2103.13733,
title = {Spirit Distillation: Precise Real-time Semantic Segmentation of Road Scenes with Insufficient Data},
author = {Zhiyuan Wu and Yu Jiang and Chupeng Cui and Zongmin Yang and Xinhui Xue and Hong Qi},
journal= {arXiv preprint arXiv:2103.13733},
year = {2021}
}
备注
12 pages, 10 figures, 5 tables