ScaleNet：一种面向有限信息的无监督表征学习方法
计算机视觉与模式识别
2023-10-06 v1
摘要
尽管大规模标注数据对于深度卷积神经网络（ConvNets）学习高层语义视觉表征至关重要，但收集与标注大规模数据集耗时且不切实际。本研究提出一种基于多尺度图像、简单高效的无监督表征学习方法 ScaleNet，以在有限信息可用时提升 ConvNets 性能。输入图像首先被缩放至更小尺寸并送入 ConvNets 以识别旋转角度。接着，ConvNets 基于前一模型迁移的参数，对原始尺寸图像学习旋转预测任务。本研究在不同架构（如 AlexNet 与 ResNet50）上考察了 CIFAR-10 与 ImageNet 数据集。当前研究表明，特定图像特征（如 Harris 角点信息）对旋转预测任务的效率起关键作用。在有限的 CIFAR-10 数据集上，ScaleNet 以约 7% 的优势超越 RotNet。相较 RotNet 模型，来自有限数据 ScaleNet 模型的迁移参数将 ImageNet 分类任务提升了约 6%。本研究显示了 ScaleNet 方法通过为分类任务学习有效特征来改进 SimCLR 等其他前沿模型的能力。
引用
@article{arxiv.2310.02386,
title = {ScaleNet: An Unsupervised Representation Learning Method for Limited Information},
author = {Huili Huang and M. Mahdi Roozbahani},
journal= {arXiv preprint arXiv:2310.02386},
year = {2023}
}
备注
Accepted by DAGM GCPR 2021