中文

空格也是一个词吗?

计算与语言 2017-10-24 v1 统计力学

摘要

长期以来,词汇的秩-频分布因遵循一种被称为齐普夫定律(Zipf's law)的潜在普遍现象而备受推崇。这一经验现象的假设形式由伯努瓦·曼德尔布罗特(Benoît Mandelbrot)完善为现今所称的齐普夫-曼德尔布罗特定律(Zipf-Mandelbrot law)。与此同时,赫伯特·西蒙(Herbert Simon)提出了一个可能解释齐普夫定律的选择模型。然而,西蒙与曼德尔布罗特之间的重大争议、显著的经验例外,以及西蒙模型与齐普夫-曼德尔布罗特定律之间缺乏强有力的经验联系,使得普遍性和机制生成的问题悬而未决。我们通过展示词分割的“暗物质”——即空格、标点等——如何将齐普夫-曼德尔布罗特定律与西蒙的机制过程联系起来,为这些问题提供了一个解决方案。这解释了曼德尔布罗特的修正不过是一个凑合因子,用以容纳因排除秩-频暗物质而产生的影响。因此,整合这些非词对象可以解决一个更广义的秩-频定律。由于这依赖于空格等的整合,我们找到了支持以下假设的证据:所有元素都是由共同过程生成的,从物理角度来看,这表明空格也是一个词。

关键词

引用

@article{arxiv.1710.07729,
  title  = {Is space a word, too?},
  author = {Jake Ryland Williams and Giovanni C. Santia},
  journal= {arXiv preprint arXiv:1710.07729},
  year   = {2017}
}

备注

5 pages, 2 figures