大型语言模型在情节续写中保持语义等距
计算与语言
2025-10-07 v1 人工智能
摘要
本文探讨了文本语义与大型语言模型(LLM)之间的关系，扩展了关于分布式语义与结构语义之间关系的先前见解。我们研究了LLM生成的文本是否保留语义等距。我们设计了一个使用10,000个ROCStories提示由五个LLM完成的情节续写实验。我们首先验证GPT-4o从语言基准中提取等距的能力，然后将其应用于生成的故事中。随后，我们分析等距的结构(覆盖率、密度、扩散)和语义属性，以评估它们如何受到续写的影响。结果表明，LLM在给定token窗口内的续写能够在多个属性上保留语义等距。
引用
@article{arxiv.2510.04400,
title = {Large Language Models Preserve Semantic Isotopies in Story Continuations},
author = {Marc Cavazza},
journal= {arXiv preprint arXiv:2510.04400},
year = {2025}
}