EiHi 网络:分布外泛化范式
计算机视觉与模式识别
2025-05-15 v3 人工智能
摘要
本文提出一种新的 EiHi 网络以解决深度学习中的分布外 (OoD) 泛化问题。EiHi 网络是一种可赋予任意视觉骨干网络的模型学习范式。该范式可改变深度模型以往的学习方式,即找出归纳样本特征与相应类别间的相关性,这种方式受制于不确定特征与标签间的伪相关。我们通过显式且动态地建立原始-正-负样本三元组作为最小学习单元,融合 SimCLR 与 VIC-Reg,使深度模型迭代地建立特征与标签间接近因果的关系,同时抑制伪相关。为进一步验证所提模型并强化已建立的因果关系,我们开发了人在回路策略,利用少量指导样本直接剪枝表征空间。最后表明,所开发的 EiHi 网络在最困难且典型的 OoD 数据集 Nico 上相较当前 SOTA 结果取得显著改进,且无需任何域( 背景、无关特征)信息。
引用
@article{arxiv.2209.14946,
title = {EiHi Net: Out-of-Distribution Generalization Paradigm},
author = {Qinglai Wei and Beiming Yuan and Diancheng Chen},
journal= {arXiv preprint arXiv:2209.14946},
year = {2025}
}