AttentionBoost：通过提升全卷积网络学习应关注什么
计算机视觉与模式识别
2019-08-07 v1 机器学习
摘要
密集预测模型广泛用于图像分割。一个重要挑战是充分训练这些模型，使其对难学习像素具有良好的泛化能力。此类难学习像素的一个典型群体是实例之间的边界。许多研究提出对边界像素的学习给予特定关注，包括设计以边界预测为附加任务的多任务网络，以及在损失函数中增加边界像素预测的权重。这类策略需要事先定义关注对象，并将该定义的关注融入学习模型。然而，可能存在其他难学习像素群体，而手动定义并融入每组的适当关注可能不可行。为提供更易实现且可扩展的方案，本文提出 AttentionBoost，一种基于自适应提升（adaptive boosting）的多注意力学习模型。AttentionBoost 设计了一个多阶段网络，并引入一种新的损失调整机制，使密集预测模型能直接在图像数据上自适应地学习各阶段应关注什么，而无需任何关于关注对象的先验定义。该机制通过根据先前阶段在某像素上的准确程度分别调整该像素预测的损失权重，来调节各阶段的注意力以纠正前一阶段的错误。该机制使 AttentionBoost 能在同一阶段根据不同像素的学习难度学习不同注意力，并能在不同阶针对同一像素根据其预测置信度学习多种注意力。以腺体分割为示例应用，实验表明 AttentionBoost 改善了同类方法的性能。
引用
@article{arxiv.1908.02095,
title = {AttentionBoost: Learning What to Attend by Boosting Fully Convolutional Networks},
author = {Gozde Nur Gunesli and Cenk Sokmensuer and Cigdem Gunduz-Demir},
journal= {arXiv preprint arXiv:1908.02095},
year = {2019}
}
备注
This work has been submitted to the IEEE for possible publication