关于批正交化层
机器学习
2018-12-10 v1 机器学习
摘要
批归一化已在许多最先进网络中变得无处不在。它加速训练并带来良好的性能结果。然而,存在各种归一化的其他替代方案,例如正交归一化。本文的目标是探索以正交归一化层替代通道归一化的可能方案。算法的性能与批归一化(BN)一起通过规定的性能度量进行比较。
引用
@article{arxiv.1812.03049,
title = {On Batch Orthogonalization Layers},
author = {Blanchette and Laganière},
journal= {arXiv preprint arXiv:1812.03049},
year = {2018}
}