Viewmaker 网络：为无监督表示学习学习视图
机器学习
2021-03-30 v2 计算与语言
计算机视觉与模式识别
摘要
许多近期的无监督表示学习方法训练模型对不同的“视图”（即输入的失真版本）保持不变。然而，设计这些视图需要人类专家大量的试错，阻碍了无监督表示学习方法跨领域与模态的广泛应用。为此，我们提出 viewmaker 网络：从给定输入中学习生成有用视图的生成模型。Viewmaker 是随机有界对抗者：它们通过生成并向输入添加 有界扰动来产生视图，并相对于主编码器网络进行对抗训练。值得注意的是，在 CIFAR-10 上预训练时，我们学到的视图实现了与精心调优的 SimCLR 增强相当的迁移精度——尽管未包含裁剪或颜色抖动等变换。此外，在语音录音（平均 +9% 点）与可穿戴传感器数据（+17% 点）上，我们学到的视图显著优于基线增强。Viewmaker 也可与手工视图结合：它们提升了对常见图像损坏的鲁棒性，并能在手工视图较少探索的情况下提高迁移性能。这些结果表明，viewmaker 可能为更通用的表示学习算法提供一条路径——减少在更广阔领域上进行预训练所需的领域专业知识与精力。代码见 https://github.com/alextamkin/viewmaker。
引用
@article{arxiv.2010.07432,
title = {Viewmaker Networks: Learning Views for Unsupervised Representation Learning},
author = {Alex Tamkin and Mike Wu and Noah Goodman},
journal= {arXiv preprint arXiv:2010.07432},
year = {2021}
}
备注
ICLR 2021