中文

噪声校准:利用预训练视频扩散模型进行即插即用的内容保持视频增强

计算机视觉与模式识别 2024-07-16 v1

摘要

为了提高合成视频的质量,目前一种主要方法是重新训练一个专家扩散模型,然后实施加噪-去噪过程进行细化。尽管训练成本高昂,但保持原始视频与增强视频之间内容的一致性仍然是一个主要挑战。为了解决这一挑战,我们提出了一种新颖的公式,同时考虑视觉质量和内容一致性。内容一致性通过一个保持输入结构的损失函数来保证,而视觉质量则通过利用预训练扩散模型的去噪过程来提高。为了解决所提出的优化问题,我们开发了一种即插即用的噪声优化策略,称为噪声校准。通过几次迭代细化初始随机噪声,可以很大程度上保留原始视频的内容,同时增强效果显著。大量实验证明了所提方法的有效性。

关键词

引用

@article{arxiv.2407.10285,
  title  = {Noise Calibration: Plug-and-play Content-Preserving Video Enhancement using Pre-trained Video Diffusion Models},
  author = {Qinyu Yang and Haoxin Chen and Yong Zhang and Menghan Xia and Xiaodong Cun and Zhixun Su and Ying Shan},
  journal= {arXiv preprint arXiv:2407.10285},
  year   = {2024}
}

备注

ECCV 2024, Project Page: https://yangqy1110.github.io/NC-SDEdit/, Code Repo: https://github.com/yangqy1110/NC-SDEdit/