面向SPD网络的黎曼自注意力机制
计算机视觉与模式识别
2023-11-29 v1
摘要
对称正定（SPD）矩阵已被证明是许多科学领域中有效的特征描述子，因为它能在弯曲的黎曼流形（即SPD流形）上充分编码数据的时空统计信息。尽管存在许多不同的方法来设计用于SPD矩阵非线性学习的网络架构，但极少有方案显式地挖掘不同层特征的几何依赖关系。受自注意力机制在捕捉长程关系方面巨大成功的启发，本文提出一种SPD流形自注意力机制（SMSA），使用若干流形值几何运算，主要是黎曼度量、黎曼均值与黎曼优化。然后，设计了一个基于SMSA的几何学习模块（SMSA-GLM），以提升所生成的深度结构化表示的判别力。在三个基准数据集上取得的广泛实验结果表明，相对于基线网络的改进进一步缓解了信息退化问题并提高了准确率。
引用
@article{arxiv.2311.16738,
title = {Riemannian Self-Attention Mechanism for SPD Networks},
author = {Rui Wang and Xiao-Jun Wu and Hui Li and Josef Kittler},
journal= {arXiv preprint arXiv:2311.16738},
year = {2023}
}
备注
14 pages, 10 figures, 5 tables