构建强化二阶模糊规则模型中的指数加权 l_2 正则化策略
机器学习
2020-07-03 v1 机器学习
摘要
在传统的 Takagi-Sugeno-Kang（TSK）型模糊模型中，通常采用常数或线性函数作为模糊规则的后件部分，但它们无法有效描述由前件部分定义的局部区域内的行为。本文提出了一种理论与实践相结合的设计方法来解决这一问题。首先，应用信息粒化（模糊 C 均值）方法捕获数据中的结构，将输入空间划分为子空间，并形成前件部分。其次，采用二次多项式（QP）作为后件部分。与常数和线性函数相比，QP 能够通过细化输入与输出变量之间的关系来描述局部区域（子空间）内的输入-输出行为。然而，尽管 QP 可以提高模型的逼近能力，但也可能导致模型预测能力的恶化（例如过拟合）。为了解决这个问题，我们引入了一种受调和分析中权函数理论启发的指数加权方法。更具体地说，我们采用指数函数作为目标惩罚项，并为其配备 l2 正则化（l2）（即指数加权 l2，ewl_2），以恰当地匹配所提出的强化二阶模糊规则模型（RSFRM）。与普通 l2 相比，ewl_2 的优势在于能够在系数估计中分别识别和惩罚不同类型的多项式项，其结果不仅减轻了过拟合、防止了泛化能力的恶化，还有效释放了模型的预测潜力。
引用
@article{arxiv.2007.01208,
title = {Exponentially Weighted l_2 Regularization Strategy in Constructing Reinforced Second-order Fuzzy Rule-based Model},
author = {Congcong Zhang and Sung-Kwun Oh and Witold Pedrycz and Zunwei Fu and Shanzhen Lu},
journal= {arXiv preprint arXiv:2007.01208},
year = {2020}
}
备注
22 pages