短程排斥驱动的超声体：无监督学习中的涌现视觉表征

无监督学习中防止表征坍缩是一个反复出现的挑战。现有解决方案通常依赖全局正则化，如最大化距离、解相关维度或强制特定分布。我们则重新解释表征学习作为离散压包问题，其中保持信息简化为保持单射性。我们在超声体中实现了这一点，一种使用短程硬球排斥防止局部碰撞的方法。这种约束导致高分离的几何范畴，保留数据增强的多样性，在细粒度和低分辨率分类任务中表现卓越。