深度感知损失网络的系统性性能分析：打破迁移学习惯例
计算机视觉与模式识别
2024-07-04 v3 机器学习
摘要
近年来，深度感知损失已被广泛且成功地用于训练许多计算机视觉任务（包括图像合成、分割和自编码）的机器学习模型。深度感知损失是一种图像损失函数，将两幅图像间的误差计算为从神经网络提取的深度特征之间的距离。该损失的大多数应用使用称为损失网络的预训练网络进行深度特征提取。然而，尽管使用日益广泛，损失网络实现对所训练模型的影响尚未被研究。本文通过对不同预训练损失网络在四个不同应用领域影响的系统性评估来弥补这一点。具体而言，本文评估了14种不同的预训练架构及四种不同的特征提取层。评估揭示，无批量归一化的VGG网络性能最佳，且特征提取层的选择至少与架构选择同等重要。分析还揭示，深度感知损失不遵循“更好的ImageNet准确率意味着更好的下游性能”以及“从后层提取特征提供更好性能”的迁移学习惯例。
引用
@article{arxiv.2302.04032,
title = {A Systematic Performance Analysis of Deep Perceptual Loss Networks: Breaking Transfer Learning Conventions},
author = {Gustav Grund Pihlgren and Konstantina Nikolaidou and Prakash Chandra Chhipa and Nosheen Abid and Rajkumar Saini and Fredrik Sandin and Marcus Liwicki},
journal= {arXiv preprint arXiv:2302.04032},
year = {2024}
}