利用潜在聚类校正改进微调
机器学习
2025-01-22 v1
摘要
神经网络训练过程中潜在空间中显著语义聚类的存在与其在分类任务上的最终准确率高度相关。本文提出了一种新颖的微调方法,通过使用 Louvain 社区检测算法和专门设计的聚类损失函数来优化这些潜在聚类的形成,从而提升性能。我们给出了初步结果,证明了该过程在 CIFAR-100 数据集上对经典神经网络架构进行微调时的可行性。
引用
@article{arxiv.2501.11919,
title = {Improving Fine-Tuning with Latent Cluster Correction},
author = {Cédric Ho Thanh},
journal= {arXiv preprint arXiv:2501.11919},
year = {2025}
}
备注
8 pages, 4 figures, 4 tables