图像分类任务中简单性偏置的现代审视
计算机视觉与模式识别
2025-09-17 v1 人工智能
摘要
神经网络的简单性偏置（SB），即其表示简单函数的倾向，是其泛化能力的关键因素。近期研究表明，过度的 SB 可能会损害在复杂任务上的性能，且这种偏置的需求因任务而异。这些研究大多聚焦于简单模型或合成任务。在大型模型中测量 SB 仍然具有挑战性，且关于 SB 与各种图像分类任务相关性的认知甚少。在本文中，我们研究了 CLIP 模型中的 SB 与其在图像分类任务中性能之间的关系。首先，我们从理论上分析了先前用于表征小模型的现有复杂度度量的潜在局限性。为了解决这一问题，我们提出了一种频率感知的度量，能够捕捉更细粒度的 SB 差异。我们在施加了两种近期 SB 调制方法的 CLIP 模型上验证了该度量，证明它比先前的度量提供更多信息且更具一致性。其次，我们考察了这些模型的 SB 与其在一系列图像分类任务（包括零样本和微调设置）中性能的关系。这些实验揭示了一系列行为模式。例如，更强的 SB 与更好的 OOD 泛化性能相关性优于对抗鲁棒性。这些结果突出了将模型的归纳偏置与目标任务特征相对齐的益处。
引用
@article{arxiv.2509.12265,
title = {A Modern Look at Simplicity Bias in Image Classification Tasks},
author = {Xiaoguang Chang and Teng Wang and Changyin Sun},
journal= {arXiv preprint arXiv:2509.12265},
year = {2025}
}