元输入：如何利用现成的深度神经网络
机器学习
2022-10-25 v1 人工智能
计算机视觉与模式识别
摘要
如今，尽管深度神经网络（DNNs）已在广泛的研究领域取得显著进展，但由于环境差异问题，其缺乏应用于实际场景的适应性。该问题源于训练与测试环境之间的差异，且众所周知，当预训练 DNN 模型应用于新测试环境时会导致严重的性能下降。因此，本文提出一种新方法，使终端用户无需修改模型即可在自有测试环境中利用预训练 DNN 模型。为此，我们提出一种\textit{元输入}（meta input），它是一种将测试数据分布转换为与训练数据分布对齐的附加输入。所提元输入仅需少量测试数据，通过考虑测试输入数据与其输出预测之间的关系即可优化。此外，它不需要任何网络内部架构知识，也无需修改其权重参数。随后，将获得的元输入加至测试数据，以将测试数据分布偏移至原始所用训练数据的分布。因此，终端用户可在不同于训练环境的自有测试环境中利用训练良好的模型。我们通过各种任务的综合实验展示其对环境差异的鲁棒性，验证了所提元输入的有效性与通用性。
引用
@article{arxiv.2210.13186,
title = {Meta Input: How to Leverage Off-the-Shelf Deep Neural Networks},
author = {Minsu Kim and Youngjoon Yu and Sungjune Park and Yong Man Ro},
journal= {arXiv preprint arXiv:2210.13186},
year = {2022}
}