判别神经网络中的多样性研究
机器学习
2024-07-18 v1 人工智能
计算机视觉与模式识别
摘要
多样性是几乎所有基于信息处理的学科中的核心概念。在电信领域,例如,空间多样性、时序多样性、频率多样性以及冗余编码是设计极高效率系统的基本概念。在机器学习中,尤其是神经网络中,多样性并非总是被强调或至少明确识别。这篇论文提出了一种神经网络架构,基于各种多样性原则,其中一些已为人知,另一些则更为原创。我们的架构取得了显著的成绩,在 MNIST 上的自监督学习准确率达到 99.57%,在仅使用每类 25 个标签的情况下, CIFAR-10 上的半监督学习准确率达到 94.21%。
引用
@article{arxiv.2407.12599,
title = {On Diversity in Discriminative Neural Networks},
author = {Brahim Oubaha and Claude Berrou and Xueyao Ji and Yehya Nasser and Raphaël Le Bidan},
journal= {arXiv preprint arXiv:2407.12599},
year = {2024}
}
备注
Published in: 2024 IEEE 12th International Symposium on Signal, Image, Video and Communications (ISIVC)