更优且更快：基于图蒸馏从多自监督学习任务迁移知识用于视频分类

视频表征学习是分类任务中的关键问题。近来，一种称为自监督学习的有前景的无监督范式兴起，其通过求解辅助任务挖掘海量数据中隐含的内在监督信号以进行特征学习。然而，现有此类方法在推广至视频分类时存在两方面的局限。首先，它们仅关注单一任务，忽视了不同任务特定特征间的互补性，从而导致次优的视频表征。其次，高计算与内存开销阻碍其在真实场景中的应用。在本文中，我们提出一种基于图的蒸馏框架以解决这些问题：(1) 我们提出 logits 图与表征图，从多个自监督任务迁移知识，前者通过求解多分布联合匹配问题蒸馏分类器级知识，后者从成对集成表征中蒸馏内部特征知识并应对不同特征间异构性的挑战；(2) 采用师生框架的该方案能大幅减少从教师处学到的知识冗余，从而得到更轻量的学生模型，更高效地解决分类任务。在 3 个视频数据集上的实验结果验证，我们的方案不仅有助于学习更优的视频表征，还能压缩模型以实现更快推理。