优化 TSK 模糊系统用于分类问题：带均匀正则化与批量归一化的小批量梯度下降
机器学习
2020-12-04 v3 机器学习
摘要
Takagi-Sugeno-Kang (TSK) 模糊系统是一种灵活且可解释的机器学习模型；然而，当数据规模大和/或数据维度高时，它们可能不易优化。本文提出一种基于小批量梯度下降（MBGD）的算法，以高效且有效地训练 TSK 模糊分类器。它集成了两种新技术：1) 均匀正则化（UR），其迫使各规则对输出具有相似的平均贡献，从而提升 TSK 分类器的泛化性能；以及 2) 批量归一化（BN），其将 BN 从深度神经网络扩展到 TSK 模糊分类器，以加速收敛并改善泛化性能。在来自不同应用领域、规模和维度各异的 12 个 UCI 数据集上的实验表明，UR 和 BN 各自有效，且将二者结合可进一步提升分类性能。
引用
@article{arxiv.1908.00636,
title = {Optimize TSK Fuzzy Systems for Classification Problems: Mini-Batch Gradient Descent with Uniform Regularization and Batch Normalization},
author = {Yuqi Cui and Jian Huang and Dongrui Wu},
journal= {arXiv preprint arXiv:1908.00636},
year = {2020}
}