使用实例-层归一化的U-Net训练
图像与视频处理
2019-08-27 v2 计算机视觉与模式识别
机器学习
摘要
归一化层在深度卷积神经网络（DCNN）中至关重要。目前已提出了多种归一化方法。用于归一化特征图的统计量可以在批次、通道或实例级别计算。然而，在大多数现有方法中，每一层的归一化方式是固定的。批次-实例归一化（BIN）是最早提出的结合两种不同归一化方法并为不同层实现多样化归一化的方法之一。然而，BIN存在两个潜在问题：第一，Clip函数在输入值为0和1时不可微；第二，组合后的特征图不具有归一化分布，这对DCNN中的信号传播有害。本文通过使用Sigmoid函数进行特征图组合，并级联组归一化，提出了实例-层归一化（ILN）层。在以U-Net为网络架构的右心室和左心室图像分割上验证了ILN的性能。结果表明，所提出的ILN在大多数验证中均优于以往传统和流行的归一化方法，准确率有显著提升，这支持了所提出的ILN的有效性。
引用
@article{arxiv.1908.08466,
title = {U-Net Training with Instance-Layer Normalization},
author = {Xiao-Yun Zhou and Peichao Li and Zhao-Yang Wang and Guang-Zhong Yang},
journal= {arXiv preprint arXiv:1908.08466},
year = {2019}
}
备注
8 pages, 3 figures, accepted by MICCAI-MMMI 2019 workshop