中文

PECoP:面向动作质量评估的参数高效持续预训练方法

计算机视觉与模式识别 2023-11-15 v1

摘要

动作质量评估(AQA)中标注数据的有限可用性,迫使以往工作对其在大规模领域通用数据集上预训练的模型进行微调。这种常见方法导致泛化能力较弱,尤其在存在显著领域偏移时。我们提出一种新颖的、参数高效的持续预训练框架 PECoP,通过额外的预训练阶段来减小此类领域偏移。在 PECoP 中,我们引入插入预训练模型的 3D-Adapters,通过自监督学习获取时空域内信息,且仅更新适配器模块的参数。我们证明了 PECoP 能够提升近期最先进方法(MUSDL、CoRe 与 TSA)应用于 AQA 的性能,在基准数据集 JIGSAWS(6.0%\uparrow6.0\%)、MTL-AQA(0.99%\uparrow0.99\%)和 FineDiving(2.54%\uparrow2.54\%)上取得显著提升。我们还提出一个新的帕金森病数据集 PD4T,包含真实患者执行的四种不同动作,相较之下我们超越了最先进水平(3.56%\uparrow3.56\%)。我们的代码、预训练模型与 PD4T 数据集发布于 https://github.com/Plrbear/PECoP。

关键词

引用

@article{arxiv.2311.07603,
  title  = {PECoP: Parameter Efficient Continual Pretraining for Action Quality Assessment},
  author = {Amirhossein Dadashzadeh and Shuchao Duan and Alan Whone and Majid Mirmehdi},
  journal= {arXiv preprint arXiv:2311.07603},
  year   = {2023}
}

备注

Accepted to WACV 2024 (preprint)