意义的几何模式:多语言嵌入的 PHATE 流形分析
计算与语言
2026-01-16 v1
摘要
我们引入了一个多层次分析框架,用于检查多语言嵌入中的语义几何,该框架通过 Semanscope(一个在四个语言层次上应用 PHATE 流形学习的可视化工具)实现。对跨越子字符组件、字母系统、语义域和数字概念的多样化数据集的分析揭示了当前嵌入模型中的系统性几何模式和关键局限性。在子字符层面,纯粹的结构元素(汉字部首)表现出几何坍缩,突显了模型未能区分语义和结构组件。在字符层面,不同的书写系统显示出独特的几何特征。在词层面,实词在英语、中文和德语的 20 个语义域中形成聚类-分支模式。阿拉伯数字通过螺旋轨迹而非聚类来组织,这违反了标准的分布语义学假设。这些发现确立了 PHATE 流形学习作为一种重要的分析工具,不仅用于研究嵌入空间中意义的几何结构,也用于验证嵌入模型在捕捉语义关系方面的有效性。
引用
@article{arxiv.2601.09731,
title = {Geometric Patterns of Meaning: A PHATE Manifold Analysis of Multi-lingual Embeddings},
author = {Wen G Gong},
journal= {arXiv preprint arXiv:2601.09731},
year = {2026}
}