面向稳健表征学习的知识嵌入潜在投影
机器学习
2026-02-19 v1 统计理论
统计方法学
统计理论
摘要
潜在空间模型广泛用于分析高维离散数据矩阵，如电子健康记录(EHR)中的患者-特征矩阵，通过捕获低维嵌入中的复杂依赖结构来实现分析。在不平衡情形下，估计过程具有挑战性，即一个矩阵维度远大于另一个维度。在EHR应用中，队列大小常常受疾病患病率或数据可用性限制，而特征空间则因医学编码系统的广度而保持极大。受外部语义嵌入日益可得的影响，如EHR中临床概念的预训练嵌入，我们提出一种知识嵌入潜在投影模型，该模型利用语义侧信息来正则化表征学习。具体而言，我们将列嵌入建模为通过再生产核希尔伯特空间中的映射作为语义嵌入的光滑函数。我们发展了一种计算高效的两步估计程序，将语义引导的子空间构建通过核主成分分析与可扩展投影梯度下降相结合。我们建立了估计误差界，描述统计误差与由核投影引起的近似误差之间的权衡。此外，我们为非凸优化程序提供了局部收敛保证。大量仿真研究和真实世界EHR应用表明，所提方法有效。
引用
@article{arxiv.2602.16709,
title = {Knowledge-Embedded Latent Projection for Robust Representation Learning},
author = {Weijing Tang and Ming Yuan and Zongqi Xia and Tianxi Cai},
journal= {arXiv preprint arXiv:2602.16709},
year = {2026}
}