基于李群的鲁棒自监督学习
计算机视觉与模式识别
2022-10-25 v1 机器学习
摘要
深度学习已带来计算机视觉的显著进步。即便如此，当今最佳模型在面临与训练时所见略有差异的变化时仍很脆弱。物体姿态、颜色或光照的微小偏移可能导致灾难性误分类。最先进的模型难以理解一组变化如何影响不同物体。我们提出一个框架，以灌输物体如何在更真实设定中变化的观念。我们的方法应用李群的形式化来刻画连续变换，从而提升模型对分布偏移的鲁棒性。我们将该框架置于最先进的自监督学习（SSL）模型之上，发现显式用李群建模变换带来了大幅性能提升：对 MAE，在典型姿态下所见已知实例以新姿态呈现、以及任意姿态下的未知实例上，提升均超 10%。我们也将该方法应用于 ImageNet，发现李算子将性能提升近 4%。这些结果展示了学习变换以提升模型鲁棒性的前景。
引用
@article{arxiv.2210.13356,
title = {Robust Self-Supervised Learning with Lie Groups},
author = {Mark Ibrahim and Diane Bouchacourt and Ari Morcos},
journal= {arXiv preprint arXiv:2210.13356},
year = {2022}
}