AM-LFS：面向损失函数搜索的 AutoML
计算机视觉与模式识别
2019-08-15 v2
摘要
设计有效的损失函数在视觉分析中起着重要作用。大多数现有的损失函数设计依赖于手工启发性方法，需要领域专家探索庞大的设计空间，这通常次优且耗时。在本文中，我们提出面向损失函数搜索的 AutoML (AM-LFS)，其利用 REINFORCE 在训练过程中搜索损失函数。本工作的关键贡献是搜索空间的设计，该搜索空间通过将一系列现有主流损失函数纳入统一表述，可保证在不同视觉任务上的泛化性与可迁移性。我们还提出了一种高效的优化框架，可在训练期间动态优化损失函数分布参数。在四个基准数据集上的大量实验结果表明，无需任何技巧，我们的方法在各种计算机视觉任务中优于现有手工设计的损失函数。
引用
@article{arxiv.1905.07375,
title = {AM-LFS: AutoML for Loss Function Search},
author = {Chuming Li and Yuan Xin and Chen Lin and Minghao Guo and Wei Wu and Wanli Ouyang and Junjie Yan},
journal= {arXiv preprint arXiv:1905.07375},
year = {2019}
}