受控句子嵌入空间的语义几何：局部流形建模与潜在探针

本文研究由\emph{受控局部语义相近句子}诱导的嵌入云的局部几何。核心问题是受控的仿似语义变化在句子嵌入空间中如何组织，以及这种局部结构能否通过低阶拟合模型显式建模。我们引入一种基于仿射、二次和三次拟合模型的局部几何建模方案。我们还使用基于曲面的潜在探针程序，该程序在拟合载体的局部 PCA 空间中构建合成潜在点。该程序旨作为表示空间分析、局部流形建模和几何感知潜在探针的离线方法。生成的潜在点通过衡量与拟合曲面一致性、保持邻域结构、符合经验分布、Hessian 基于的二阶形状描述稳定性以及拟合模型系数的稳定性等标准进行评估。在受控语义相近句子集合上的实验表明，非线性局部模型比仿射模型更准确地描述嵌入云。基于曲面的生成提供了强大的拟合几何保真度，包括曲面一致性、Hessian 基于的形状一致性和系数一致性。下游实验表明，几何有效性的合成潜在点并不自动转化为改进的分类性能。结果支持句子嵌入空间的显式局部几何建模，并突显了区分几何有效性与判别实用性的必要性。作为资源贡献，我们引入了 \textbf{CoPaGE-300K}，一个基于受控模板的数据集，包含语义相近句子变体，带有槽位级别注释和预计算的句子嵌入。