迈向灵活的稀疏感知建模：基于广义双曲先验的自动张量秩学习
机器学习
2022-03-30 v2 信号处理
机器学习
摘要
典型多元分解（CPD）的张量秩学习长期以来被视为一个关键却富有挑战的问题。特别地，由于张量秩控制着CPD模型的复杂度，其不精确的学习会导致对噪声过拟合或对信号源欠拟合，甚至破坏模型参数的可解释性。然而，张量秩的最优确定已知是一个非确定性多项式时间困难（NP-hard）任务。与其通过试错实验穷举搜索最佳张量秩，概率CPD建模背景下引入了高斯-伽马先验下的贝叶斯推断，并被证明是自动张量秩确定的有效策略。这引发了针对其他结构化张量CPD自动张量秩学习的蓬勃研究。另一方面，这些研究也揭示出高斯-伽马模型在高秩张量和/或低信噪比（SNR）情况下表现不佳。为克服这些缺陷，本文在概率CPD模型中引入更先进的广义双曲（GH）先验，其不仅将高斯-伽马模型作为特例包含在内，而且更灵活地适应不同水平的稀疏性。基于这一新颖概率模型，在变分推断框架下开发了算法，其中每次更新均以闭式获得。使用合成数据与真实世界数据集的大量数值结果证明，所提方法即使在低SNR情形下，在学习低秩与高秩张量方面均取得显著改进的性能。
引用
@article{arxiv.2009.02472,
title = {Towards Flexible Sparsity-Aware Modeling: Automatic Tensor Rank Learning Using The Generalized Hyperbolic Prior},
author = {Lei Cheng and Zhongtao Chen and Qingjiang Shi and Yik-Chung Wu and Sergios Theodoridis},
journal= {arXiv preprint arXiv:2009.02472},
year = {2022}
}