基于视觉变换的自监督假设探析
机器学习
2020-02-18 v2 计算机视觉与模式识别
机器学习
摘要
我们提出了首个刻画基于视觉变换的自监督行为的定性假设，称为 VTSS 假设。给定一个执行自监督任务并预测某变换实例的数据集，该假设表述为：若所预测变换的实例已存在于数据集中，则所学表征的用处较小。该假设是通过观察使用特定变换应用自监督时的一个关键约束而推导出的。这一约束，本文中称之为变换冲突，迫使网络学习退化特征，从而降低表征的用处。VTSS 假设帮助我们识别有潜力作为自监督任务有效性的变换。此外，它有助于一般性地预测某特定基于变换的自监督技术对特定数据集是否有效。我们在 CIFAR 10、CIFAR 100、SVHN 和 FMNIST 上提供了大量评估，证实了该假设及其预测趋势。我们还提出了基于平移与缩放的新颖高性价比自监督技术，其与旋转结合时优于所有单独应用的变换。总体而言，本文旨在阐明基于视觉变换的自监督现象。
引用
@article{arxiv.1911.10594,
title = {Towards a Hypothesis on Visual Transformation based Self-Supervision},
author = {Dipan K. Pal and Sreena Nallamothu and Marios Savvides},
journal= {arXiv preprint arXiv:1911.10594},
year = {2020}
}
备注
Draft