青出于蓝：面向联合场景解析、深度估计等任务的知识融合

本文研究一种新颖的深度模型复用任务。我们的目标是在无人工标注的情况下，训练一个轻量且通用的学生模型，使其融合并掌握两个处理异构问题的预训练教师模型的专业知识，其中一个用于场景解析，另一个用于深度估计。为此，我们提出一种创新的训练策略，通过将学生模型的融合特征“投影”到各教师的领域并计算损失，使学生的参数与教师交织学习。我们还引入两种方案，将所提训练策略推广到同时处理三个或更多任务。所提方案取得了非常令人鼓舞的结果。如在多个基准上的演示所示，训练得到的学生模型在其各自专业领域中的表现甚至优于教师模型，并与依赖人工标注的最先进全监督模型相当。