DDCL:深度双竞争学习:用于无监督基于原型的表示学习的可微分端到端框架
机器学习
2026-04-03 v1 神经与进化计算
摘要
深度聚类中一个持续的结构性弱点是特征学习与聚类分配之间的脱节。大多数架构调用外部聚类步骤(通常为 k-means)来生成引导训练的伪标签,阻止骨干网络直接针对聚类质量进行优化。本文提出深度双竞争学习(DDCL),首个用于无监督基于原型的表示学习的完全可微分端到端框架。核心贡献在于架构层面:外部 k-means 被替换为内部双竞争层(DCL),将原型生成作为网络的原生可微分输出。这一单次反转使完整流水线——从骨干特征提取经原型生成到软聚类分配——可通过单一统一损失进行反向传播训练,无需 Lloyd 迭代、无需伪标签离散化、无需外部聚类步骤。为在理论上奠定框架基础,本文推导了软量化损失的精确代数分解,将其分解为单形约束重构误差和非负加权原型方差项。该恒等式揭示了损失几何中内置的自调节机制:方差项的梯度充当隐式分离力,在无辅助目标的情况下抵抗原型坍塌,并为降维冻结编码器系统导出全局李雅普诺夫稳定性定理。六组对照实验验证了每个结构预测。分解恒等式在超过十万个训练周期中零违反成立;负反馈循环经 Pearson -0.98 确认;在联合训练骨干网络下,DDCL 在聚类准确率上超越其不可微分消融基线 65%,超越 DeepCluster 端到端 122%。
引用
@article{arxiv.2604.01740,
title = {DDCL: Deep Dual Competitive Learning: A Differentiable End-to-End Framework for Unsupervised Prototype-Based Representation Learning},
author = {Giansalvo Cirrincione},
journal= {arXiv preprint arXiv:2604.01740},
year = {2026}
}