克服小语言模型微调在基于形状的数据类型和对象属性提取中的泛化极限
计算与语言
2025-12-10 v2
摘要
小语言模型在提取由聚焦于常见数据类型属性的SHACL形状引导的RDF三元组时,在关系抽取方面展现出潜力。本文研究了SLM如何处理数据类型和对象属性以完成完整的RDF图提取。我们表明,关键瓶颈与稀有属性的长尾分布有关。为了解决这个问题,我们评估了几种策略:分层采样、加权损失、数据集缩放和基于模板的合成数据增强。我们表明,在不平衡的目标属性上表现同样出色的最佳策略是构建一个训练集,其中每个属性出现的次数超过给定阈值。为了实现可重复性,我们公开发布了我们的数据集、实验结果和代码。我们的发现为训练形状感知的SLM提供了实用指导,并突出了语义关系抽取未来工作的有前景方向。
引用
@article{arxiv.2511.03407,
title = {Overcoming the Generalization Limits of SLM Finetuning for Shape-Based Extraction of Datatype and Object Properties},
author = {Célian Ringwald and Fabien Gandon and Catherine Faron and Franck Michel and Hanna Abi Akl},
journal= {arXiv preprint arXiv:2511.03407},
year = {2025}
}
备注
Accepted at KCAP 2025