Poincaré ResNet
计算机视觉与模式识别
2023-12-20 v3
摘要
本文介绍了一种完全在双曲空间的 Poincaré 球模型上运行的端到端残差网络。双曲学习最近在视觉理解方面显示出巨大潜力，但目前仅在深度网络的倒数第二层（或多层）中执行。所有视觉表示仍通过标准欧几里得网络学习。在本文中，我们研究如何直接从像素级学习视觉数据的双曲表示。我们提出 Poincaré ResNet，即著名的残差网络的双曲对应物，从 Poincaré 二维卷积到 Poincaré 残差连接。我们确定了在双曲空间中完全训练卷积网络的三个障碍，并针对每一个提出了解决方案：（i）当前的双曲网络初始化会坍缩到原点，限制了其在更深网络中的适用性。我们提供了一种基于恒等的初始化，可在多层中保持范数。（ii）残差网络严重依赖批归一化，而在双曲空间中伴随昂贵的 Fréchet 均值计算。我们引入 Poincaré 中点批归一化作为一种更快且同样有效的替代方案。（iii）由于 Poincaré 层中的许多中间操作，我们最后发现深度学习库的计算图会急剧膨胀，限制了我们在深层双曲网络上训练的能力。我们提供了核心双曲操作的手动反向推导，以维持可控的计算图。
引用
@article{arxiv.2303.14027,
title = {Poincar\'e ResNet},
author = {Max van Spengler and Erwin Berkhout and Pascal Mettes},
journal= {arXiv preprint arXiv:2303.14027},
year = {2023}
}
备注
International Conference on Computer Vision 2023