pretext 对比学习：自监督视频表示学习中的良好实践
计算机视觉与模式识别
2021-04-06 v2
摘要
近来，基于 pretext 任务的方法在自监督视频特征学习中接连被提出。同时，对比学习方法也取得了良好性能。通常，新方法声称能捕捉“更好”的时间信息而超越先前方法。然而，它们之间存在设置差异，难以断定孰优孰劣。若这些方法都尽可能逼近其性能极限，比较将更具说服力。本文从一 pretext 任务基线出发，探索将其与对比学习、数据预处理及数据增强结合后能走多远。通过大量实验找到了一个恰当设置，借此相对基线取得巨大提升，表明联合优化框架可同时提升 pretext 任务与对比学习。我们将该联合优化框架记为 Pretext-Contrastive Learning (PCL)。另两个 pretext 任务基线被用于验证 PCL 的有效性。在相同训练方式下，我们可轻松超越当前 SOTA 方法，显示了我们方法的有效性与通用性。将 PCL 视为标准训练策略并应用于自监督视频特征学习中诸多其他工作是便利的。
引用
@article{arxiv.2010.15464,
title = {Pretext-Contrastive Learning: Toward Good Practices in Self-supervised Video Representation Leaning},
author = {Li Tao and Xueting Wang and Toshihiko Yamasaki},
journal= {arXiv preprint arXiv:2010.15464},
year = {2021}
}
备注
Under review