多域鲁棒优化
机器学习
2019-05-23 v2 计算机视觉与模式识别
机器学习
摘要
在这项工作中，我们研究为多个域学习单一模型的问题。与每个域可拥有对应模型的传统机器学习场景不同，由于云计算服务中的维护负担，多个域（即应用/用户）可能共享同一机器学习模型。例如，一个数字识别模型应适用于手写数字、门牌号、车牌等。因此，云计算的理想模型必须在每个适用域上都表现良好。为应对云计算带来的这一新挑战，我们提出了多域鲁棒优化框架。我们不以最小化经验风险为目标，而是旨在学习一个针对多域上对抗分布的优化模型。为此，我们提出用随机算法同时学习模型与对抗分布以提高效率。理论上，我们分析了凸与非凸模型的收敛速率。据我们所知，我们首次研究了用实用算法学习鲁棒非凸模型的收敛速率。此外，我们证明了通过对抗分布上的适当正则化项可进一步增强框架的鲁棒性与收敛速率。在真实世界的细粒度视觉分类与数字识别任务上的实证研究所提框架的有效性与高效性。
引用
@article{arxiv.1805.07588,
title = {Robust Optimization over Multiple Domains},
author = {Qi Qian and Shenghuo Zhu and Jiasheng Tang and Rong Jin and Baigui Sun and Hao Li},
journal= {arXiv preprint arXiv:1805.07588},
year = {2019}
}
备注
accepted by AAAI'19