广义学习向量量化的激活函数——性能比较
机器学习
2019-01-21 v1 机器学习
摘要
适当选择激活函数(如 ReLU、sigmoid 或 swish)对用于分类与回归学习的(深度)多层感知机(MLP)的性能起着重要作用。基于原型的分类学习方法如(广义)学习向量量化(GLVQ)是强有力的替代方案。这些模型同样涉及激活函数,但此处它们被应用于所谓的分类器函数而非他处。本文我们研究 MLP 中已知有效的激活函数候选在 GLVQ 中的应用及其对性能的影响。
引用
@article{arxiv.1901.05995,
title = {Activation Functions for Generalized Learning Vector Quantization - A Performance Comparison},
author = {Thomas Villmann and John Ravichandran and Andrea Villmann and David Nebel and Marika Kaden},
journal= {arXiv preprint arXiv:1901.05995},
year = {2019}
}