360VFI:面向全向视频帧插值的一个数据集与基准
计算机视觉与模式识别
2024-09-10 v3 机器学习
多媒体
摘要
佩戴式 360{\deg} 显示屏和便携式 360{\deg} 相机的不断进步,为观众提供了逼真且沉浸式的体验。然而,许多全向视频的帧率较低,可能导致视觉疲劳,而现有的平面视频帧插值方法不适用于全向视频插值,因为它们仅为传统视频设计。本文引入了用于全向视频帧插值的基准数据集 360VFI。我们提出了一种实用方法,通过引入全向视频中的畸变先验来调制畸变。具体而言,我们提出了一种金字塔畸变敏感特征提取器,利用等距矩形投影(ERP)格式的独特特征作为先验信息。此外,我们设计了解码器,通过仿射变换进一步促进中间帧的合成。360VFI 是第一个探索全向视频帧插值挑战的数据集与基准。通过我们的基准分析,我们在 proposed 360VFI 数据集中呈现了四种不同的畸变条件场景,以评估插值过程中因畸变引发的挑战。此外,实验结果表明,通过建模全向畸变可以有效提高全向视频插值的效果。
引用
@article{arxiv.2407.14066,
title = {360VFI: A Dataset and Benchmark for Omnidirectional Video Frame Interpolation},
author = {Wenxuan Lu and Mengshun Hu and Yansheng Qiu and Liang Liao and Zheng Wang},
journal= {arXiv preprint arXiv:2407.14066},
year = {2024}
}
备注
This is a preprint version