在增长的表示与环境维度下的数据稀疏加低秩矩阵迁移学习

学习系统通常会在时间推进中扩展其环境特征或潜在表示，将早期表示嵌入更大的空间，但仅利用有限的新潜在结构。我们研究在环境维度和内在表示同时增长的情况下的结构化矩阵估计迁移学习，其中良好估计的源任务嵌入为更高维目标任务的子空间。我们提出了一个通用的迁移框架，其中目标参数分解为嵌入源组件、低维低秩创新以及稀疏编辑，开发了一种锚定交替投影估计器，在保留迁移子空间的同时仅估计低维创新和稀疏修改。我们建立了确定性误差界，分离目标噪声、表示增长和源估计误差，yielding在秩和稀疏增量较小时可严格改进的速率。我们通过应用到两个经典问题来展示该框架的普适性。对于从单个轨迹估计马尔可夫转移矩阵，我们在依赖噪声下推导了端到端的理论保证。对于在扩大维度下的结构化协方差估计，我们在附录中提供了互补的理论分析，并在实验中验证了持续的迁移收益。