HYPO：基于超球体的异常分布泛化
机器学习
2024-11-05 v3
摘要
异常分布（OOD）泛化是机器学习模型在实际部署中至关重要的能力。然而，这需要模型具备跨不同域或环境学习不变特征的能力，这在本质上具有挑战性。本文提出了一种新框架 HYPO（HYPerspherical OOD generalization），在超球体空间中 provably 学习域不变的表示。具体而言，我们的超球体学习算法受 intra-class variation 和 inter-class separation 原则的指导——确保来自不同训练域中同一类的特征与其类原型紧密对齐，而不同类原型则最大程度地分离。我们进一步提供了理论依据，说明我们的原型学习目标如何改进 OOD 泛化界限。通过在具有挑战性的 OOD 基准测试上的大量实验，我们展示了该方法优于对手方法，实现卓越的性能。代码已公开：https://github.com/deeplearning-wisc/hypo。
引用
@article{arxiv.2402.07785,
title = {HYPO: Hyperspherical Out-of-Distribution Generalization},
author = {Haoyue Bai and Yifei Ming and Julian Katz-Samuels and Yixuan Li},
journal= {arXiv preprint arXiv:2402.07785},
year = {2024}
}
备注
The conference version of this paper is published at ICLR 2024; First two authors contributed equally