误差损失网络
机器学习
2022-08-02 v3
摘要
本文提出一种称为误差损失网络 (ELN) 的新模型，用于构建监督学习的误差损失函数。ELN在结构上类似于径向基函数 (RBF) 神经网络，但其输入为误差样本，输出为对应于该误差样本的损失。这意味着ELN的非线性输入输出映射器创建了一个误差损失函数。所提出的ELN为一大类误差损失函数提供了统一模型，其中包括一些信息论学习 (ITL) 损失函数作为特例。ELN的激活函数、权重参数和网络规模可预先确定或从误差样本中学习。在此基础上，我们提出一种新的机器学习范式，其中学习过程分为两个阶段：首先，使用ELN学习损失函数；其次，使用学习到的损失函数继续进行监督学习。实验结果展示了新方法的良好性能。
引用
@article{arxiv.2106.03722,
title = {Error Loss Networks},
author = {Badong Chen and Yunfei Zheng and Pengju Ren},
journal= {arXiv preprint arXiv:2106.03722},
year = {2022}
}