利用大语言模型进行公共事务领域主题分类
人工智能
2023-09-06 v2 计算与语言
摘要
公共事务文件的分析对公民至关重要,因为它促进了透明度、问责制和知情决策。它使公民能够理解政府政策、参与公共话语并追究代表的责任。对于运营依赖于某些法规的公司而言,这一点至关重要,有时甚至是生死攸关的问题。大语言模型(LLMs)有潜力通过有效处理和理解此类文件中使用的复杂语言来极大增强公共事务文件的分析。在这项工作中,我们分析了 LLMs 在分类公共事务文件中的性能。作为一个自然的多标签任务,这些文件的分类带来了重要挑战。在这项工作中,我们使用基于正则表达式的工具收集了一个包含超过 33K 样本和 22.5M 词元的公共事务文件数据库。我们的实验评估了 4 种不同的西班牙语 LLMs 在不同配置下对数据中多达 30 个不同主题进行分类的性能。结果表明,LLMs 可极大用于处领域特定文件,例如公共事务领域的文件。
引用
@article{arxiv.2306.02864,
title = {Leveraging Large Language Models for Topic Classification in the Domain of Public Affairs},
author = {Alejandro Peña and Aythami Morales and Julian Fierrez and Ignacio Serna and Javier Ortega-Garcia and Iñigo Puente and Jorge Cordova and Gonzalo Cordova},
journal= {arXiv preprint arXiv:2306.02864},
year = {2023}
}
备注
Accepted in ICDAR 2023 Workshop on Automatic Domain-Adapted and Personalized Document Analysis