基于元学习的多域学习：通过内循环学习在多域损失景观中采取最优步
计算机视觉与模式识别
2021-03-01 v1 机器学习
图像与视频处理
摘要
我们考虑一种用于多模态应用的多域学习（MDL）问题的模型无关解决方案。许多现有 MDL 技术是模型相关的解决方案，明确需要非平凡的架构改变以构建领域特定模块。因此，将这些 MDL 技术恰当地应用于具有成熟模型的新问题（例如用于语义分割的 U-Net）可能需要各种底层实现工作。在本文中，给定新兴多模态数据（例如各种结构神经成像模态），我们旨在纯粹以算法方式实现 MDL，使广泛使用的神经网络能以模型无关的方式轻松实现 MDL。为此，我们考虑一个加权损失函数，并通过采用近期活跃的学习以学习（元学习）领域的技术将其扩展为有效过程。具体而言，我们采取内循环梯度步来动态估计我们损失函数超参数的后验分布。因此，我们的方法是模型无关的，不需要额外的模型参数和网路架构改变；相反，仅需少量高效的算法修改即可提升 MDL 中的性能。我们展示了我们的解决方案在医学成像中一个契合的问题，具体而言，在白质高信号（WMH）的自动分割中。我们考察了两种具有互补信息且契合我们问题的神经成像模态（T1-MR 和 FLAIR）。
引用
@article{arxiv.2102.13147,
title = {Multi-Domain Learning by Meta-Learning: Taking Optimal Steps in Multi-Domain Loss Landscapes by Inner-Loop Learning},
author = {Anthony Sicilia and Xingchen Zhao and Davneet Minhas and Erin O'Connor and Howard Aizenstein and William Klunk and Dana Tudorascu and Seong Jae Hwang},
journal= {arXiv preprint arXiv:2102.13147},
year = {2021}
}
备注
IEEE International Symposium on Biomedical Imaging 2021