PIVOT:面向视频持续学习的提示机制
计算机视觉与模式识别
2023-04-06 v2 人工智能
摘要
现代机器学习流程受限于数据可用性、存储配额、隐私法规及昂贵的标注过程。这些约束使得在此类动态标注集上训练并更新大规模模型困难甚至不可能。持续学习直接应对该问题,其终极目标是设计令深度神经网络能有效学习新(未见过)类别相关模式、同时不显著改变其在已学类别上性能的方法。本文探讨视频数据的持续学习问题。我们提出 PIVOT,一种利用图像域预训练模型中广泛知识的新方法,从而减少可训练参数及相关遗忘。与以往方法不同,我们的方法是首个无需任何域内预训练即有效使用提示机制用于持续学习的方法。实验表明,在 20 任务 ActivityNet 设定下,PIVOT 以显著的 27% 提升超越 SOTA 方法。
引用
@article{arxiv.2212.04842,
title = {PIVOT: Prompting for Video Continual Learning},
author = {Andrés Villa and Juan León Alcázar and Motasem Alfarra and Kumail Alhamoud and Julio Hurtado and Fabian Caba Heilbron and Alvaro Soto and Bernard Ghanem},
journal= {arXiv preprint arXiv:2212.04842},
year = {2023}
}
备注
CVPR 2023