利用置信度蒸馏的高效动作识别
计算机视觉与模式识别
2022-08-17 v2 人工智能
摘要
现代神经网络是强大的预测模型。然而，当涉及到识别其预测可能错误时，它们表现不佳。例如，对于最常见的激活函数之一 ReLU 及其变体，即使是经过良好校准的模型也可能产生错误但高置信度的预测。在相关的动作识别任务中，当前大多数分类方法基于片段级分类器，其对给定视频密集采样为不重叠、等长的片段，并使用聚合函数（通常为平均）汇总结果以得到视频级预测。虽然该方法已被证明有效，但其在识别精度上并非最优且计算开销高。为缓解这两个问题，我们提出置信度蒸馏框架，将教师模型的的不确定性表征蒸馏给学生采样器，并在学生与教师模型之间划分完整视频预测的任务。我们在三个动作识别数据集上进行了大量实验，表明我们的框架在动作识别精度（最高 20%）与计算效率（超过 40%）上均取得显著提升。
引用
@article{arxiv.2109.02137,
title = {Efficient Action Recognition Using Confidence Distillation},
author = {Shervin Manzuri Shalmani and Fei Chiang and Rong Zheng},
journal= {arXiv preprint arXiv:2109.02137},
year = {2022}
}