任务转换：过参数化线性模型中从分类到回归

现代机器学习方法近期展示了在任务转换下泛化的卓越能力，其中潜在知识在相似数据分布下被迁移至一个不同且通常更困难的任务。我们在过参数化线性回归设置中研究这一现象，其中任务在训练期间从分类转换为在评估期间的回归。在零样本情况下，即没有可用的回归数据时，我们证明对于任何高斯协变量分布，在稀疏信号模型和随机信号模型中任务转换均是不可能的。在少样本情况下，即存在有限的回归数据时，我们提出了一种简单的后处理算法，该算法渐近地恢复真实预测器。我们的分析利用了源于最小范数插值的单个参数的细粒度刻画，这可能具有独立的意义。我们的结果表明，尽管用于分类的最小范数插值器无法先验地迁移至回归，但它们经历了令人惊讶的结构化衰减，这使得在有限的额外数据下能够成功实现任务转换。