补丁学习
机器学习
2019-06-04 v1 机器学习
摘要
已有多种策略用于提升机器学习模型的性能，例如增加模型的深度、宽度和/或非线性的程度，以及使用集成学习并行或串行地聚合多个基/弱学习器。本文针对该问题提出一种称为补丁学习(PL)的新策略。它包含三个步骤：1)使用全部训练数据训练一个初始全局模型；2)从初始全局模型中识别对学习的误差贡献最大的补丁，并为每个此类补丁训练一个(局部)补丁模型；3)使用未落入任何补丁的训练数据更新全局模型。使用PL模型时，我们首先判断输入是否落入某个补丁。若是，则使用相应的补丁模型计算输出；否则使用全局模型。我们详细说明了如何利用模糊系统实现PL。在1维/2维/3维曲线拟合、非线性系统辨识和混沌时间序列预测上的五个回归问题验证了其有效性。据我们所知，PL思想此前未见于文献，它为机器学习开辟了一条有前景的新研究方向。
引用
@article{arxiv.1906.00158,
title = {Patch Learning},
author = {Dongrui Wu and Jerry M. Mendel},
journal= {arXiv preprint arXiv:1906.00158},
year = {2019}
}