InfoDPCCA：信息论动态概率典型相关分析
机器学习
2025-06-11 v1 信息论
math.IT
摘要
从高维序列数据中提取有意义的潜在表示是机器学习中的一个关键挑战，应用涵盖自然科学和工程领域。我们提出了InfoDPCCA，一个用于建模两个相互依赖观测序列的动态概率典型相关分析（CCA）框架。InfoDPCCA利用一种新颖的信息论目标来提取共享潜在表示，该表示捕捉数据流之间的相互结构，并在表示压缩和预测充分性之间取得平衡，同时学习编码各序列特有信息的独立潜在分量。与DPCCA等先前的动态CCA模型不同，我们的方法明确强制共享潜在空间仅编码序列之间的互信息，从而提高了可解释性和鲁棒性。我们进一步引入了一种两阶段训练方案，以弥合信息论表示学习与生成建模之间的差距，并引入残差连接机制以增强训练稳定性。通过在合成数据和医学fMRI数据上的实验，我们证明了InfoDPCCA作为表示学习工具的卓越性能。InfoDPCCA的代码可在https://github.com/marcusstang/InfoDPCCA获取。
引用
@article{arxiv.2506.08884,
title = {InfoDPCCA: Information-Theoretic Dynamic Probabilistic Canonical Correlation Analysis},
author = {Shiqin Tang and Shujian Yu},
journal= {arXiv preprint arXiv:2506.08884},
year = {2025}
}
备注
accepted by UAI-25, code is available at \url{https://github.com/marcusstang/InfoDPCCA}