中文

面向集成原型判别学习的深度正负原型方法

机器学习 2025-01-07 v1 计算机视觉与模式识别

摘要

本文提出了一种新颖的深度正负原型(DPNP)模型,该模型将基于原型的学习与判别方法相结合,以提升深度神经网络中类内紧凑性和类间可分性。虽然基于原型的学习传统上通过基于样本与代表性原型的相似度进行分类来强调可解释性,但其在复杂场景中难以创建最优决策边界。相反,判别方法能有效区分类别,但通常缺乏直观的可解释性。为发挥这两种方法的优势,所提出的DPNP模型通过将类原型与权重向量统一来桥接两者,从而建立一个结构化的潜在空间,使得在使用可解释原型和适当学习的特征表示的同时实现准确分类。基于这种统一原型-权重表示的核心思想,利用现成的深度网络作为特征提取器,在潜在空间中为每个类别形成深度正原型(DPP)作为代表。然后,在DPNP中,将竞争的相邻类DPP视为具有排斥力的隐式负原型,将DPP彼此推开。这有助于在不需要任何额外参数的情况下增强类间分离。因此,通过一个集成了交叉熵、原型对齐和分离项的新颖损失函数,DPNP实现了组织良好的特征空间几何,最大化了类内紧凑性和类间间隔。我们表明,DPNP能够在特征空间内将原型组织在近乎规则的位置,从而即使在低维得多的特征空间中也能实现具竞争力的分类准确率。在多个数据集上的实验结果表明,DPNP在使用更小网络的情况下优于SOTA模型。

关键词

引用

@article{arxiv.2501.02477,
  title  = {A Deep Positive-Negative Prototype Approach to Integrated Prototypical Discriminative Learning},
  author = {Ramin Zarei-Sabzevar and Ahad Harati},
  journal= {arXiv preprint arXiv:2501.02477},
  year   = {2025}
}