具有流形约束和复合二次罚项的多任务函数型线性回归模型的统一分析
统计理论
2023-08-02 v2 机器学习
统计理论
摘要
本工作研究协变量和未知回归系数（称为斜率函数）均为曲线的多任务函数型线性回归模型。对于斜率函数估计，我们采用惩罚样条来平衡偏差、方差和计算复杂度。多任务学习的优势通过施加斜率函数上的额外结构引入。我们提出了一个对样条系数矩阵进行双重正则化的一般模型：i) 矩阵流形约束，以及 ii) 作为二次项求和的复合罚项。许多多任务学习方法可视为该模型的特殊情况，例如降秩模型和图拉普拉斯正则化模型。我们证明复合罚项诱导了一个特定的范数，这有助于量化流形曲率并确定流形切空间中的相应真子集。然后，通过一般链式方法将切空间子集的复杂度与测地线邻域的复杂度联系起来。我们得到了一个统一的收敛上界，并将其具体应用于降秩模型和图拉普拉斯正则化模型。我们通过改变模型参数的配置，检验了估计量的相变行为。
引用
@article{arxiv.2211.04874,
title = {A Unified Analysis of Multi-task Functional Linear Regression Models with Manifold Constraint and Composite Quadratic Penalty},
author = {Shiyuan He and Hanxuan Ye and Kejun He},
journal= {arXiv preprint arXiv:2211.04874},
year = {2023}
}