快速函数到函数回归
机器学习
2014-10-29 v1 机器学习
摘要
我们分析了输入协变量和输出响应均来自非参数函数类时的回归问题。函数到函数回归 (Function to function regression, FFR) 涵盖了大量有趣的应用，包括时间序列预测问题，以及更一般的任务，如研究两种不同类型分布之间的映射。然而，以往针对 FFR 类问题的非参数估计量在计算上随数据集中输入/输出对的数量增加而扩展性极差。鉴于一般函数之间映射的复杂性，可能需要考虑大规模数据集以实现较低的估计风险。为解决这一问题，我们开发了一种新型可扩展的非参数估计量，即三基估计量 (Triple-Basis Estimator, 3BE)，它能够处理包含大量实例的数据集。据我们所知，3BE 是首个可扩展至海量数据集的非参数 FFR 估计量。我们分析了 3BE 的风险并推导了其上界速率。此外，我们在多个真实世界数据集上展示了该估计量在预测速度上数个数量级的提升，以及在误差方面较以往估计量的降低。
引用
@article{arxiv.1410.7414,
title = {Fast Function to Function Regression},
author = {Junier Oliva and Willie Neiswanger and Barnabas Poczos and Eric Xing and Jeff Schneider},
journal= {arXiv preprint arXiv:1410.7414},
year = {2014}
}