基于QLoRA适配大语言模型的德国议会辩论说话人归属识别
计算与语言
2024-03-14 v2
摘要
日益增长的政治文本为深入洞察政治动态与意识形态提供了新机遇,但也增加了人工分析的工作负担。自动说话人归属识别检测在言语事件中谁对谁说了什么,与语义角色标注密切相关,是计算文本分析的重要处理步骤。我们研究了Llama 2大语言模型系列在自动化2017—2021年德国议会辩论说话人归属识别方面的潜力。我们使用高效训练策略QLoRA对Llama 2进行微调,并观察到我们的方法在GermEval 2023德语新闻文章与议会辩论说话人归属共享任务中取得了具有竞争力的性能。我们的结果揭示了大语言模型在自动化说话人归属识别方面的能力,为政治话语的计算分析与语义角色标注系统的开发指明了一条有前景的途径。
引用
@article{arxiv.2309.09902,
title = {Speaker attribution in German parliamentary debates with QLoRA-adapted large language models},
author = {Tobias Bornheim and Niklas Grieger and Patrick Gustav Blaneck and Stephan Bialonski},
journal= {arXiv preprint arXiv:2309.09902},
year = {2024}
}
备注
8 pages, 3 figures; peer-reviewed and published in the Journal for Language Technology and Computational Linguistics, available at https://jlcl.org/article/view/244