中文

RNA:基于 ROI 的神经图谱视频编辑

计算机视觉与模式识别 2024-10-11 v1

摘要

随着基于视频的社交网络服务平台的快速发展,面向普通用户的视频编辑需求日益增长。然而,由于包括摄像机运动和移动物体在内的时间变化因素,视频编辑往往具有挑战性。虽然现代的基于图谱的视频编辑方法已解决了这些问题,但常常无法编辑包括复杂运动或多个移动物体的视频,且即使进行简单编辑也需耗费大量计算资源。本文提出一种新颖的基于区域感兴趣 (ROI) 的视频编辑框架:基于 ROI 的神经图谱 (RNA)。不同于先前方法,RNA 允许用户指定编辑区域,通过消除对前景对象的前景分离和图谱建模需求,简化了编辑过程。然而,这种简化带来了一个独特挑战:如何在不依赖额外分割模型的情况下获取有效处理编辑区域遮挡的掩码。为此,我们提出一种专为此挑战设计的新颖掩码细化方法。此外,我们引入一种软神经图谱模型用于视频重建,以确保高质量的编辑结果。大量实验表明,RNA 提供了更实用且更高效的编辑解决方案,可适用于更广泛的视频类型并实现卓越的编辑质量。

关键词

引用

@article{arxiv.2410.07600,
  title  = {RNA: Video Editing with ROI-based Neural Atlas},
  author = {Jaekyeong Lee and Geonung Kim and Sunghyun Cho},
  journal= {arXiv preprint arXiv:2410.07600},
  year   = {2024}
}

备注

ACCV2024