ProPy:基于 CLIP 构建交互式提示金字塔用于部分相关视频检索
计算机视觉与模式识别
2025-08-27 v1
摘要
部分相关视频检索(PRVR)是一项实用但具有挑战性的任务,它涉及根据仅与特定片段相关的查询来检索视频。虽然现有工作遵循开发模型以处理单模态特征的范式,但像 CLIP 这样强大的预训练视觉-语言模型在该领域仍未得到充分探索。为了弥补这一差距,我们提出了 ProPy,这是一个针对 PRVR 专门设计的、对 CLIP 进行系统性架构适配的模型。从多粒度事件的语义相关性中汲取灵感,ProPy 引入了两项关键创新:(1)一种提示金字塔结构,用于组织事件提示以捕获多个粒度级别的语义;(2)一种构建在该金字塔之上的祖先-后代交互机制,它能够实现事件间的动态语义交互。凭借这些设计,ProPy 在三个公共数据集上达到了 SOTA 性能,以显著优势超越了先前的模型。代码可在 https://github.com/BUAAPY/ProPy 获取。
引用
@article{arxiv.2508.19024,
title = {ProPy: Building Interactive Prompt Pyramids upon CLIP for Partially Relevant Video Retrieval},
author = {Yi Pan and Yujia Zhang and Michael Kampffmeyer and Xiaoguang Zhao},
journal= {arXiv preprint arXiv:2508.19024},
year = {2025}
}
备注
Accepted by EMNLP 2025 Findings