高效符号通信码的演化

本文探讨如何将人类自然语言结构视为人际通信码演化的产物，其目标是最大化如反熵、压缩因子与交叉切分 F1 分数等文化无关且跨语言的度量。该探索作为更大型无监督语言学习工作的一部分，尝试通过最大化上述度量，在基于“真实”语言结构的超参数空间中进行元学习以最大化 F1 分数。本文给出了针对俄语、汉语与英语的跨语言词级切分分词研究的初步结果，以及针对英语的子词切分或形态解析研究。研究发现，词级切分或分词的语言结构形式可由所有这些度量驱动：反熵与英语、俄语更相关，而压缩因子对汉语更具特异性。针对英语词汇的子词切分或形态解析研究揭示了所发现的压缩与压缩因子之间的直接关联，而令人惊讶的是，其与反熵的关联却呈反向。