一种用于拟合拉普拉斯正则化分层模型的分布式方法

分层模型是指以任意方式依赖于一组选定的类别特征，并线性依赖于其他特征的模型。在基础且传统的表述中，对类别特征的每个取值分别拟合一个模型，仅使用具有该特定类别值的数据。在此表述基础上我们加入拉普拉斯正则化，其鼓励相邻类别值的模型参数相似。拉普拉斯正则化允许我们在分层特征值上指定一个或多个加权图。例如，按星期几分层时，我们可以指定星期日模型参数应接近星期六和星期一模型参数。该正则化相比传统分层模型提升了性能，因为每个类别值的模型从其邻居‘借用强度’。特别地，它即使对训练数据集中未出现的类别值也能产生模型。我们基于交替方向乘子法（ADMM）提出了一种高效的分布式方法来拟合分层模型。当拟合损失函数凸时，分层模型拟合问题是凸的，我们的方法计算损失加正则化的全局极小化子；其他情况下计算局部极小化子。该方法非常高效，并可自然扩展到大型数据集或大量分层特征值。我们用多种例子说明了我们的方法。