中文

从海中同步:从大规模数据集中检索可对齐视频

计算机视觉与模式识别 2024-09-04 v1 信息检索 机器学习

摘要

时间视频对齐旨在同步两个视频中的关键事件,如物体交互或动作阶段转换。此类方法可惠及各种视频编辑、处理和理解任务。然而,现有方法在给定适合对齐的视频对的限制性假设下运作,显著限制了更广泛的适用性。为此,我们将时间对齐重新表述为搜索问题,引入可对齐视频检索(AVR)任务。给定查询视频, Our 方法可以从大型视频剪辑集合中识别出与查询视频可对齐的视频并对其进行时间同步。为实现此目标,我们作出三个关键贡献:1) 我们引入 DRAQ,一种视频可对齐性指示器,用于识别和重新排序候选集合中最佳可对齐视频;2) 我们提出一种有效且可泛化的帧级视频特征设计,以提高多种开箱即用的特征表示的对齐性能;3) 我们提出一种新颖的基准和评估协议,用于 AVR,采用循环一致性指标。我们在 3 个数据集上进行实验,包括大规模 Kinetics700,展示了 Our 方法在从多样化数据集中识别可对齐视频对方面的有效性。项目页面: https://daveishan.github.io/avr-webpage/。

关键词

引用

@article{arxiv.2409.01445,
  title  = {Sync from the Sea: Retrieving Alignable Videos from Large-Scale Datasets},
  author = {Ishan Rajendrakumar Dave and Fabian Caba Heilbron and Mubarak Shah and Simon Jenni},
  journal= {arXiv preprint arXiv:2409.01445},
  year   = {2024}
}

备注

ECCV 2024 Oral