离散语法类别的无监督获取
计算与语言
2025-12-16 v2 人工智能
机器学习
多智能体系统
摘要
本文介绍了使用计算实验室环境进行语言习得实验的实验结果。该环境实现了一个由两个智能体组成的多智能体系统:一个成年语言模型和一个旨在学习母语的女儿语言模型。关键在于,女儿智能体无法访问母语模型的内部知识,而只能访问母语智能体生成的语言样例。这些实验说明了如何使用该系统来获取抽象的语法知识。我们展示了如何对输入数据中与语法类别对应的模式进行统计分析,从而得出离散的语法规则。随后,这些规则被添加到女儿语言模型的语法知识中。为此,对母语模型连续生成的语料应用了分层凝聚聚类分析。本文论证了该程序可用于获取类似于语言学家为自然语言提出的语法类别的结构。因此,这证实了非平凡的语法知识已被获取。此外,通过母语模型生成的训练数据确定的该计算实验室环境的参数配置,在带有测试集的第二次实验中得到了验证,该实验同样获取了非平凡的类别。
引用
@article{arxiv.2503.18702,
title = {Unsupervised Acquisition of Discrete Grammatical Categories},
author = {David Ph. Shakouri and Crit Cremers and Niels O. Schiller},
journal= {arXiv preprint arXiv:2503.18702},
year = {2025}
}
备注
34 pages, 3 figures, 7 tables. Related work: Shakouri et al., arXiv:2512.02195