Riemannian Batch Normalization: 一种 Gyro 方法
机器学习
2025-09-22 v2 人工智能
摘要
归一化层对深度学习至关重要，但其欧氏表述不适用于流形上的数据。另一方面，机器学习中的许多 Riemannian 流形具有 gyro-结构，使得欧氏神经网络能够有原则地扩展到非欧域。受此启发，我们引入了 GyroBN，一种针对 gyrogroup 的有原则的 Riemannian batch normalization 框架。我们建立了两个必要条件，即 \emph{伪约化} 和 \emph{gyro等距回转}，以保证 GyroBN 对样本统计量的理论控制，并证明这些条件对于机器学习中所有已知的 gyrogroup 均成立。我们的框架还将几种现有的 Riemannian 归一化方法作为特例纳入其中。我们进一步在七种代表性几何上实例化了 GyroBN，包括 Grassmannian、五种常曲率空间和相关性流形，并推导了新的 gyro 和 Riemannian 结构以实现这些实例化。跨这些几何的实验证明了 GyroBN 的有效性。代码可在 https://github.com/GitZH-Chen/GyroBN.git 获取。
引用
@article{arxiv.2509.07115,
title = {Riemannian Batch Normalization: A Gyro Approach},
author = {Ziheng Chen and Xiao-Jun Wu and Bernhard Schölkopf and Nicu Sebe},
journal= {arXiv preprint arXiv:2509.07115},
year = {2025}
}