基于正交基向量嵌入与谱变换的快速机器学习方法
机器学习
2023-11-14 v2 数值分析
数值分析
摘要
本文提出一种新颖的快速机器学习方法，利用两种技术：正交基向量嵌入（VEOB）与谱变换（ST）。VEOB 将原始数据编码转换为投影到正交基上的坐标向量嵌入。利用奇异值分解（SVD）技术计算向量基与投影坐标，从而在嵌入空间中增强距离度量，并通过保留与最大奇异值相关的投影向量来促进数据压缩。另一方面，ST 将向量数据序列变换到谱空间。通过应用离散余弦变换（DCT）并选取最显著分量，它简化了长向量序列的处理。本文提供了词嵌入、文本块嵌入和图像嵌入的示例，以 Julia 语言结合向量数据库实现。还使用该方法研究了无监督学习与监督学习，以及处理大数据量的策略。
引用
@article{arxiv.2310.18424,
title = {Fast Machine Learning Method with Vector Embedding on Orthonormal Basis and Spectral Transform},
author = {Louis Yu Lu},
journal= {arXiv preprint arXiv:2310.18424},
year = {2023}
}
备注
update 9. Strategies for managing large data volumes with 9.1. Using incremental SVD