使用预定义向量系统作为神经网络监督训练的潜在空间配置,用于处理任意数量类别的数据
机器学习
2025-10-07 v1 人工智能
计算机视觉与模式识别
摘要
监督学习(SL)方法是神经网络(NN)训练中不可或缺的工具,用于执行分类任务。虽然结果表现卓越,但SL训练往往要求NN参数数量取决于类别数量,这限制了其在类别数极大或事先未知的情况下的适用性。本文提出了一种方法,使相同NN架构可用于任意数量的类别。这一目标通过在NN训练期间使用预定义向量系统作为目标潜在空间配置(LSC)来实现。我们讨论了目标配置的理想属性,并选择随机扰动的An根系向量用于实验。这些向量被用于在Cinic-10和ImageNet-1K上训练编码器和视觉变换器(ViT),分别在低维和高维情况下通过匹配NN预测与预定义向量。最后,在包含128万类别的数据集上训练ViT,展示了该方法处理极大类别数数据集的适用性。此外,讨论了LSC在终身学习和NN蒸馏中的潜在应用,说明了所提出方法的多样性。
引用
@article{arxiv.2510.04090,
title = {Using predefined vector systems as latent space configuration for neural network supervised training on data with arbitrarily large number of classes},
author = {Nikita Gabdullin},
journal= {arXiv preprint arXiv:2510.04090},
year = {2025}
}
备注
28 pages, 12 figures, 10 tables, 12 equations, 1 algorithm