对比学习之前你需要的是感知归纳偏置
计算机视觉与模式识别
2026-04-14 v2
摘要
David Marr 的开创性人类感知理论规定，视觉处理是一个多阶段过程，优先推导边界与表面属性，随后再形成语义对象表示。相比之下，对比表示学习框架通常绕过这种显式的多阶段方法，将其目标定义为直接学习对象的语义表示空间。尽管在一般情境下有效，该方法牺牲了视觉的归纳偏置，导致收敛速度较慢并产生导致纹理偏置的学习捷径。在本工作中，我们证明利用 Marr 的多阶段理论——首先使用早期视觉处理阶段的感知构造来构建边界与表面级表示，随后进行对象语义训练——在 ResNet18 上实现了 2 倍的收敛速度，在语义分割、深度估计与对象识别上获得了更优的最终表示，并增强了鲁棒性与分布外能力。综合而言，我们在通用对比表示预训练之前提出一个预训练阶段，通过来自人类视觉系统的归纳偏置，进一步提升最终表示质量并减少整体收敛时间。
引用
@article{arxiv.2506.01201,
title = {Perceptual Inductive Bias Is What You Need Before Contrastive Learning},
author = {Tianqin Li and Junru Zhao and Dunhan Jiang and Shenghao Wu and Alan Ramirez and Tai Sing Lee},
journal= {arXiv preprint arXiv:2506.01201},
year = {2026}
}
备注
CVPR 2025. Tianqin Li and Junru Zhao contributed equally to this work. Due to a formatting error during the CVPR submission, the equal contribution note was omitted in the official proceedings. This arXiv version corrects that oversight. The author order follows alphabetical order by last name. Code: https://github.com/juz031/MidVCL