在若干特定大维数下的几乎正交向量：短期综述
度量几何
2025-10-29 v1 信息论
math.IT
摘要
“几乎正交向量”概念——即余弦相似度接近 0 的向量——在纯数学与编码理论中分别以球packing与球码的形式出现。近年来，随着高级语言模型在 AI 中的崛起，这一概念重新獲得关注，因为模型似乎将某些概念存储为高维空间中几乎正交的方向。本综述通过三种方法表述关于几乎正交向量的思想：(1) 几乎正交的数学理论，(2) 来自语言模型嵌入空间的若干观察，(3) 通过仿真生成大规模几乎正交向量。
引用
@article{arxiv.2510.23609,
title = {A short survey on almost orthogonal vectors in a few specific large dimensions},
author = {Rami Luisto},
journal= {arXiv preprint arXiv:2510.23609},
year = {2025}
}