分布偏移下的近最优线性回归
机器学习
2021-06-24 v1 机器学习
摘要
当源域数据充足而目标域标注数据稀缺时，迁移学习至关重要。我们开发了在分布偏移下实现线性回归问题极小极大线性风险的估计量。我们的算法涵盖不同的迁移学习设定，包括协变量偏移与模型偏移。我们还考虑了数据由线性或一般非线性模型生成的情形。我们证明，对于各类源/目标分布，线性极小极大估计量即便在非线性估计量中也仅距极小极大风险一个绝对常数之内。
引用
@article{arxiv.2106.12108,
title = {Near-Optimal Linear Regression under Distribution Shift},
author = {Qi Lei and Wei Hu and Jason D. Lee},
journal= {arXiv preprint arXiv:2106.12108},
year = {2021}
}
备注
ICML 2021