最小信息线性判别分析：利用无标签数据训练 LDA 模型
机器学习
2023-10-18 v1 信号处理
机器学习
摘要
线性判别分析（LDA）是用于监督分类问题的最古老且最流行的线性方法之一。在本文中，我们证明，在具备某些最小先验信息的情况下，可以基于无标签数据计算出 LDA 模型的精确投影向量。更确切地说，我们表明，如果仅有未标记数据可用，则以下三条信息中仅一条实际上足以计算 LDA 投影向量：(1) 两类中某一类的类均值，(2) 两类类均值之差（相差一个缩放因子），或 (3) 类协方差矩阵（相差一个缩放因子）。这些理论结果在数值实验中得到了验证，表明这种最小信息线性判别分析（MILDA）模型的性能与监督式 LDA 模型非常接近。此外，我们表明 MILDA 投影向量可以以封闭形式计算，其计算成本与 LDA 相当，并且能够快速适应非平稳数据，使其非常适合用作自适应分类器。
引用
@article{arxiv.2310.11110,
title = {Minimally Informed Linear Discriminant Analysis: training an LDA model with unlabelled data},
author = {Nicolas Heintz and Tom Francart and Alexander Bertrand},
journal= {arXiv preprint arXiv:2310.11110},
year = {2023}
}
备注
13 pages, 7 figures