用于鲁棒半监督学习的分布外语义剪枝
计算机视觉与模式识别
2023-05-31 v2 人工智能
摘要
鲁棒半监督学习（SSL）近期进展通常在样本层面过滤分布外（OOD）信息。我们认为鲁棒 SSL 一个被忽视的问题是其语义层面的 corrupted 信息，这在实践中制约了该领域的发展。本文初步探索并提出一个名为 OOD 语义剪枝（OSP）的统一框架，旨在从分布内（ID）特征中剪除 OOD 语义。具体而言，(i) 我们提出别名 OOD 匹配模块，将每个 ID 样本与具有语义重叠的 OOD 样本配对。(ii) 我们设计软正交正则化，先抑制各 ID 特征中与配对 OOD 样本共线的语义分量对其进行变换，再强制软正交分解前后的预测保持一致。方法简洁实用，在具有挑战性的基准上展现出 OOD 检测与 ID 分类的强劲性能。特别地，在 TinyImageNet 数据集上，OSP 的 ID 分类准确率超越先前最优 13.7%，OOD 检测 AUROC 提升 5.9%。源代码公开于 https://github.com/rain305f/OSP。
引用
@article{arxiv.2305.18158,
title = {Out-of-Distributed Semantic Pruning for Robust Semi-Supervised Learning},
author = {Yu Wang and Pengchong Qiao and Chang Liu and Guoli Song and Xiawu Zheng and Jie Chen},
journal= {arXiv preprint arXiv:2305.18158},
year = {2023}
}
备注
Accpected by CVPR 2023