通过可微对偶分解实现 CNN-CRF 的端到端训练
计算机视觉与模式识别
2019-12-09 v1 机器学习
摘要
现代计算机视觉(CV)通常基于擅长分层特征提取的卷积神经网络(CNN)。上一代 CV 方法通常基于擅长建模灵活高阶交互的条件随机场(CRF)。由于二者优势互补,常被结合使用。然而,这些方法一般采用平均场近似,因此可以说并未直接优化真实问题。本文重新审视基于对偶分解的 CRF 优化方法,作为平均场近似的替代方案。这些算法能够高效且精确地求解子问题,并直接优化真实问题的凸上界,同时提供最优性证书。我们的方法使用一种具有对偶单调性、对偶可微性和高并行性的新型不动点迭代算法。因此,整个系统(CRF 和 CNN)可利用反向传播高效训练。我们在语义图像分割上展示了系统的有效性,显示出相对于基线模型的一致改进。
引用
@article{arxiv.1912.02937,
title = {End-to-end Training of CNN-CRF via Differentiable Dual-Decomposition},
author = {Shaofei Wang and Vishnu Lokhande and Maneesh Singh and Konrad Kording and Julian Yarkony},
journal= {arXiv preprint arXiv:1912.02937},
year = {2019}
}