不平衡数据环境下加权损失的一致批归一化
机器学习
2020-12-23 v3 机器学习
摘要
本研究考虑了数据不平衡环境下基于前馈神经网络的分类问题。从不平衡数据集学习是机器学习领域最重要的实际问题之一。基于代价敏感方法的加权损失函数（WLF）是不平衡数据集的知名且有效的方法。本研究考虑了 WLF 与批归一化（BN）的结合。BN 在深度学习的近期发展中被视为一种强大的标准技术。两种方法的简单结合会因对数据集有效规模的解释不匹配而导致规模不一致问题。本文提出对 BN 的简单修正，称为加权 BN（WBN），以纠正规模不匹配。WBN 的思想简单而自然。所提方法在不平衡数据环境下通过数值实验进行了验证。
引用
@article{arxiv.2001.01433,
title = {Consistent Batch Normalization for Weighted Loss in Imbalanced-Data Environment},
author = {Muneki Yasuda and Yeo Xian En and Seishirou Ueno},
journal= {arXiv preprint arXiv:2001.01433},
year = {2020}
}