面向低层视觉的优化启发性学习:结合架构增强与控制机制
计算机视觉与模式识别
2023-10-27 v2 最优化与控制
摘要
近年来,将可学习模块与数值优化相结合以解决低层视觉任务引起越来越多的关注。然而,现有多数方法侧重于设计专门方案以生成图像/特征传播,缺乏构建传播模块、提供理论分析工具以及设计有效学习机制的统一考量。为缓解上述问题,本文提出一种统一的优化启发性学习框架,将生成、判别与校正(简称 GDC)原理与针对多样优化模型的强泛化性相聚合。具体而言,通过引入一般能量最小化模型并分别从不同视角(即以生成方式、基于判别度量以及基于最优性校正)表述其下降方向,我们构造了三个传播模块以通过灵活组合有效求解优化模型。我们设计两种控制机制,为完全定义与部分定义的优化公式均提供非平凡的理论保证。在理论保证支持下,我们可引入归一化与搜索等多样架构增强策略,以确保稳定传播并具有收敛性,并分别将合适模块无缝集成至传播中。跨多种低层视觉任务的大量实验验证了 GDC 的有效性与适应性。代码见 https://github.com/LiuZhu-CV/GDC-OptimizationLearning
引用
@article{arxiv.2012.05435,
title = {Optimization-Inspired Learning with Architecture Augmentations and Control Mechanisms for Low-Level Vision},
author = {Risheng Liu and Zhu Liu and Pan Mu and Xin Fan and Zhongxuan Luo},
journal= {arXiv preprint arXiv:2012.05435},
year = {2023}
}
备注
14 pages. The codes are available at https://github.com/LiuZhu-CV/GDC-OptimizationLearning