面向大数据框的低秩交互与稀疏加性效应模型
机器学习
2018-12-21 v1 机器学习
摘要
机器学习的许多应用涉及分析大型数据框——跨样本收集异质测量值（二值、数值、计数等）并含有缺失值的矩阵。Udell等人[30]所研究的低秩模型在此框架下因可视化、聚类和缺失值填补等任务而广受欢迎。然而，现有具备统计保证且优化高效的方法不允许对行、列或协变量等主加性效应进行显式建模。本文引入一种低秩交互与稀疏加性效应（LORIS）模型，将基于字典的矩阵回归与低秩设计相结合，以同时估计主效应与交互效应。我们以两部分的估计误差上界形式给出统计保证。随后，我们提出一种混合坐标梯度下降（MCGD）方法，其可证明以次线性速度收敛至最优解，并对大规模数据集计算高效。在模拟与调查数据上，我们表明该方法相较现有先在预处理步中单独处理加性效应的做法具有明显优势。
引用
@article{arxiv.1812.08398,
title = {Low-rank Interaction with Sparse Additive Effects Model for Large Data Frames},
author = {Geneviève Robin and Hoi-To Wai and Julie Josse and Olga Klopp and Éric Moulines},
journal= {arXiv preprint arXiv:1812.08398},
year = {2018}
}