深度损失凸化：用于学习迭代模型
计算机视觉与模式识别
2024-11-19 v1
摘要
迭代方法如迭代最近点（ICP）用于点云配准，常因非凸优化的本质而陷入差的局部最优（如鞍点）。为解决这一根本性挑战，本文提出一种学习方法，将深度迭代方法在测试时相对于预测的损失景观形状转化为围绕每个真实标签给定数据的局部凸形，称为深度损失凸化（Deep Loss Convexification, DLC），借助神经网络的过参数化实现。为此，我们基于对抗训练构建学习目标，通过操控真实预测来实现，而非输入数据。具体而言，我们提出使用星凸性（star-convexity）——即一族在所有通过全局最小值的直线上均为单峰的结构化非凸函数——作为几何约束，以重塑损失景观，导致（1）在原始损失后附加新的hinge损失和（2）接近最优的预测。我们展示了在训练循环神经网络（RNN）、3D点云配准和多模型图像对齐等任务中使用DLC可实现的最新性能。
引用
@article{arxiv.2411.10649,
title = {Deep Loss Convexification for Learning Iterative Models},
author = {Ziming Zhang and Yuping Shao and Yiqing Zhang and Fangzhou Lin and Haichong Zhang and Elke Rundensteiner},
journal= {arXiv preprint arXiv:2411.10649},
year = {2024}
}
备注
12 pages, 10 figures, accepted paper to Transactions on Pattern Analysis and Machine Intelligence. arXiv admin note: text overlap with arXiv:2303.11526