REST：基于强化学习的空间变换提升黑盒模型性能
机器学习
2020-02-18 v1 机器学习
摘要
近年来，深度神经网络（DNN）已成为高度活跃的研究领域，并在多种计算机视觉任务上取得显著成就。然而，已知 DNN 常对分布外样本做出过度自信却错误的预测，由于训练数据集相较于多样的真实世界样本总是有限的，这成为实际部署的主要障碍。因此，在实践构建 DNN 模型时，对训练与测试时分布偏移提供鲁棒性保证是基础要求。此外，多数情况下深度学习模型作为黑盒部署且性能已针对训练数据集优化，故改动黑盒本身可能导致性能下降。本文研究在给定黑盒图像分类器的特定条件下对几何变换的鲁棒性。我们提出一个附加学习器，即基于强化学习的空间变换学习器（REST），将畸变输入数据变换为被黑盒模型视为分布内的样本。我们的工作旨在通过在任何黑盒前添加 REST 模块并以端到端方式仅训练 REST 模块而不重训原黑盒模型来提升鲁棒性，即试图将真实世界数据转换为黑盒模型性能最优适应的训练分布。我们利用黑盒模型给出的置信度分数判断变换后输入是否来自分布内。经验表明，我们的方法在几何变换泛化与样本效率上具有优势。
引用
@article{arxiv.2002.06610,
title = {REST: Performance Improvement of a Black Box Model via RL-based Spatial Transformation},
author = {Jae Myung Kim and Hyungjin Kim and Chanwoo Park and Jungwoo Lee},
journal= {arXiv preprint arXiv:2002.06610},
year = {2020}
}