中文

面向真实场景视频人脸修复:新基准

计算机视觉与模式识别 2024-05-07 v2 人工智能 多媒体 图像与视频处理

摘要

图像上的盲人脸修复(BFR)在过去几年中取得了显著进展,但更具挑战性的真实视频人脸修复(VFR)尚未得到解决,因为涉及更复杂的面部动作,如移动的注视方向和面部姿态。典型的BFR方法是在私人合成数据集或自收集的真实世界低质量人脸图像上进行评估的,这些数据集在覆盖真实视频帧方面有限。本文引入了新的名为FOS的真实世界数据集,其包含来自主要视频帧的"全面、遮挡和侧面"人脸分类体系,以研究当前方法在视频上的适用性。与现有测试数据集相比,FOS数据集涵盖更多样的退化情况,涉及更复杂场景下的人脸样本,这有助于更全面地重访当前的人脸修复方法。基于建立的数据集,我们对比评估了最新的BFR方法和视频超分辨率(VSR)方法,以全面研究当前方法,确定其在VFR任务中的潜力和局限性。此外,我们通过主观用户研究,研究了常用图像质量评估(IQA)指标和人脸IQA(FIQA)指标的有效性。通过提供大量实验结果和详细分析,我们从当前BFR和VSR方法的成功与失败中获得了洞见。这些结果也对当前的人脸修复方法提出了挑战,我们希望能够激发VFR研究的未来进展。

关键词

引用

@article{arxiv.2404.19500,
  title  = {Towards Real-world Video Face Restoration: A New Benchmark},
  author = {Ziyan Chen and Jingwen He and Xinqi Lin and Yu Qiao and Chao Dong},
  journal= {arXiv preprint arXiv:2404.19500},
  year   = {2024}
}

备注

Project page: https://ziyannchen.github.io/projects/VFRxBenchmark/