面向暗光动作识别的无限制知识蒸馏
计算机视觉与模式识别
2023-08-21 v1
摘要
暗光视频常常丢失关键信息，导致网络学到的知识不足以准确识别动作。现有的知识集成方法需要大量 GPU 显存，以将多个教师模型的知识蒸馏到一个学生模型中。在动作识别中，由于视频处理所需的计算量很大，这一缺陷变得尤为严重。受限于有限的计算资源，这些方法难以可行。为解决此问题，本文提出一种无限制知识蒸馏（UKD）。与现有知识集成方法相比，我们的 UKD 能够有效集成不同知识，且不引入高 GPU 显存消耗。因此，用于蒸馏的教师模型数量不受限制。借助我们的 UKD，网络学到的知识可得到显著丰富。实验表明，经我们的 UKD 蒸馏的单流网络甚至超越双流网络。我们在 ARID 数据集上进行了充分的实验。
引用
@article{arxiv.2308.09327,
title = {Unlimited Knowledge Distillation for Action Recognition in the Dark},
author = {Ruibing Jin and Guosheng Lin and Min Wu and Jie Lin and Zhengguo Li and Xiaoli Li and Zhenghua Chen},
journal= {arXiv preprint arXiv:2308.09327},
year = {2023}
}