高维多任务回归中的卡方与正态推断

本文针对多任务（MT）线性模型中未知系数矩阵 $B^*$（大小为 $p\times T$，含 $p$ 个协变量、$T$ 个任务和 $n$ 个观测）提出卡方与正态推断方法，并对 $B^*$ 施加行稀疏假设。行稀疏度 $s$、维度 $p$ 与任务数 $T$ 均允许随 $n$ 增长。在高维情形 $p\ggg n$ 下，为利用行稀疏性，我们考虑MT Lasso。我们在MT Lasso基础上构建去偏方案以修正惩罚引入的偏差。该方案需要引入一个新的数据驱动对象，称为交互矩阵，其捕捉不同任务上噪声向量与残差之间的有效相关性。该矩阵为半正定（psd）、大小为 $T\times T$ 且可高效计算。交互矩阵使我们在高斯设计及 $\frac{sT+s\log(p/s)}{n}\to0$（对应于Frobenius范数下的一致性）条件下推导出渐近正态与 $\chi^2_T$ 结果。这些渐近分布结果对 $B^*$ 的单个元素给出有效置信区间，并对 $B^*$ 的单个行给出有效置信椭球，无论设计协方差 $\Sigma$ 已知或未知。先前分组变量回归的提案要求行稀疏度 $s\lesssim\sqrt n$（至多含依赖于 $T$ 及 $n,p$ 中对数因子的常数），而使用交互矩阵的去偏方案在条件 ${\min(T^2,\log^8p)}/{n}\to 0$ 与 $$\frac{sT+s\log(p/s)+\|\Sigma^{-1}e_j\|_0\log p}{n}\to0, \quad \frac{\min(s,\|\Sigma^{-1}e_j\|_0)}{\sqrt n} \sqrt{[T+\log(p/s)]\log p}\to 0,$$ 下提供置信区间与 $\chi^2_T$ 置信椭球，当 $\|\Sigma^{-1}e_j\|_0 \sqrt T\lll \sqrt{n}$（至多含对数因子）时允许行稀疏度 $s\ggg\sqrt n$。