用于 SPD 矩阵学习的自适应对数欧氏度量
机器学习
2024-08-30 v5
摘要
对称正定(SPD)矩阵因其在数据中编码底层结构相关性的内在能力而在机器学习中受到广泛关注。许多成功的黎曼度量已被提出以反映 SPD 流形的非欧几何。然而,大多数现有度量张量是固定的,这可能导致 SPD 矩阵学习的次优性能,尤其是对于深度 SPD 神经网络。为弥补这一局限,我们利用常见的拉回技术并提出自适应对数欧氏度量(ALEMs),其扩展了广泛使用的对数欧氏度量(LEM)。与先前的黎曼度量相比,我们的度量包含可学习参数,能以极小的额外计算更好地适应黎曼神经网络的复杂动态。我们还给出了支持 ALEMs 的完整理论分析,包括代数与黎曼性质。实验与理论结果证明了所提度量在提升 SPD 神经网络性能方面的价值。我们度量的有效性进一步在一系列近期发展的黎曼构建模块上得到展示,包括黎曼批量归一化、黎曼残差块和黎曼分类器。
引用
@article{arxiv.2303.15477,
title = {Adaptive Log-Euclidean Metrics for SPD Matrix Learning},
author = {Ziheng Chen and Yue Song and Tianyang Xu and Zhiwu Huang and Xiao-Jun Wu and Nicu Sebe},
journal= {arXiv preprint arXiv:2303.15477},
year = {2024}
}
备注
Accepted by TIP 2024