层层出层:识别与消歧 BERT 家族中的意大利 NPN 建构
计算与语言
2026-04-07 v1
摘要
可解释性研究强调了对预训练语言模型(PLM)尤其是语境嵌入进行对显式语言理论评估的重要性,以确定它们编码了哪些语言信息。本研究聚焦于意大利语 NPN(名词-介词-名词)建构家族,挑战了此类研究中某些理论和方法假设,并将此类研究扩展到较少受关注的语言。提取自 BERT 的语境向量用作图层感知分类器的输入,系统性地评估模型内部各层编码的信息。结果阐明了建构形式和意义在语境嵌入中反映的程度,为建构主义理论与神经语言建模之间的对话提供了实证依据。
引用
@article{arxiv.2604.03673,
title = {'Layer su Layer': Identifying and Disambiguating the Italian NPN Construction in BERT's family},
author = {Greta Gorzoni and Ludovica Pannitto and Francesca Masini},
journal= {arXiv preprint arXiv:2604.03673},
year = {2026}
}