随机量化：面向数据不可知自监督学习的通用增强
计算机视觉与模式识别
2023-08-24 v2
摘要
自监督表示学习遵循一种范式：隐藏数据的某部分，并令网络从剩余部分预测该部分。在众多技术中，数据增强是制造信息缺口的核心。为此，掩码已成为一种通用且强大的工具，其沿序列维度隐藏内容，例如图像中的空间、音频中的时间、语言中的句法。本文中，我们利用精度冗余探索正交的通道维度以进行通用数据增强。每个通道的数据通过非均匀量化器量化，量化值在随机采样的量化区间中随机采样。从另一视角看，量化类似于通道级掩码，因其去除各区间内的信息，但保留区间间的信息。我们的方法显著超越现有通用数据增强方法，同时与模态特定增强性能相当。我们在视觉、音频、三维点云以及由多种数据模态构成的 DABS 基准上全面评估了该方法。代码见 https://github.com/microsoft/random_quantize。
引用
@article{arxiv.2212.08663,
title = {Randomized Quantization: A Generic Augmentation for Data Agnostic Self-supervised Learning},
author = {Huimin Wu and Chenyang Lei and Xiao Sun and Peng-Shuai Wang and Qifeng Chen and Kwang-Ting Cheng and Stephen Lin and Zhirong Wu},
journal= {arXiv preprint arXiv:2212.08663},
year = {2023}
}
备注
Accepted by ICCV 2023. The code is available at https: //github.com/microsoft/random_quantize