函数型混合专家模型
统计方法学
2023-12-21 v2 机器学习
统计计算
机器学习
摘要
我们考虑异质数据的统计分析以用于包含函数（通常为时间序列）观测的预测情形。我们将混合专家（ME）建模——作为对向量观测数据异质性进行预测建模的首选框架——扩展到该函数据分析背景。我们首先提出一类新的 ME 模型，称为函数型 ME（FME），其中预测变量为来自整个函数的潜在含噪观测。此外，预测变量与真实响应的数据生成过程由表示未知划分的隐离散变量支配。其次，通过对底层函数参数的导数施加类 Lasso 正则化稀疏约束，我们提供 FME 模型的稀疏且可解释的函数表示，称为 iFME。我们开发了专用的期望最大化算法用于类 Lasso（EM-Lasso）正则化极大似然参数估计策略以拟合模型。所提模型与算法在模拟场景及两个真实数据集应用中得到研究，所得结果证明了其在准确捕捉复杂非线性关系与对异质回归数据聚类方面的性能。
引用
@article{arxiv.2202.02249,
title = {Functional Mixtures-of-Experts},
author = {Faïcel Chamroukhi and Nhat Thien Pham and Van Hà Hoang and Geoffrey J. McLachlan},
journal= {arXiv preprint arXiv:2202.02249},
year = {2023}
}