中文

TriDet:基于相对边界建模的时间动作检测

计算机视觉与模式识别 2023-03-17 v2 人工智能 多媒体

摘要

本文提出一种用于时间动作检测的单阶段框架 TriDet。现有方法常因视频中动作边界模糊而受限于不精确的边界预测。为缓解该问题,我们提出一种新颖的 Trident-head,通过估计边界周围相对概率分布来建模动作边界。在 TriDet 的特征金字塔中,我们提出一种高效的可扩展粒度感知(SGP)层,以缓解视频特征中自注意力引发的秩损失问题,并聚合不同时间粒度下的信息。得益于 Trident-head 与基于 SGP 的特征金字塔,TriDet 在 THUMOS14、HACS 和 EPIC-KITCHEN 100 三个具有挑战性的基准上以更低的计算成本取得了最先进的性能。例如,TriDet 在 THUMOS14 上达到 69.3%69.3\% 的平均 mAP,比此前最佳高出 2.5%2.5\%,但时延仅为其 74.6%74.6\%。代码发布于 https://github.com/sssste/TriDet。

关键词

引用

@article{arxiv.2303.07347,
  title  = {TriDet: Temporal Action Detection with Relative Boundary Modeling},
  author = {Dingfeng Shi and Yujie Zhong and Qiong Cao and Lin Ma and Jia Li and Dacheng Tao},
  journal= {arXiv preprint arXiv:2303.07347},
  year   = {2023}
}

备注

CVPR2023; Temporal Action Detection; Temporal Action Localization