利用大语言模型与位置信息提升旅游领域基于方面的情感分析
计算与语言
2024-09-24 v1
摘要
基于方面的情感分析 (ABSA) 在旅游领域发挥着重要作用，这对于理解游客对特定景点方面的评价至关重要，这有助于推动旅游业的创新与发展。然而，传统的流水线模型常受误差传播和情感要素提取不完整等问题的困扰。为缓解此问题，本文提出了一种基于大语言模型和位置信息的旅游方面情感分析模型 ACOS_LLM，用于方面-类别-观点-情感四元组提取 (ACOSQE)。该模型包含两个关键阶段：辅助知识生成和 ACOSQE。首先，使用 Adalora 对大语言模型进行微调，以生成高质量的辅助知识。为提高模型效率，采用 Sparsegpt 将微调后的模型稀疏至 50%。随后，采用位置信息和序列建模技术，以辅助知识和原始文本为输入，实现 ACOSQE 任务。我们在自建的旅游数据集以及公开的数据集 Rest15 和 Rest16 上进行实验。结果表明，该模型在旅游数据集上的 F1 分数比其他模型提高了 7.49%，在 Rest15 和 Rest16 数据集上分别提高了 0.05% 和 1.06%。
引用
@article{arxiv.2409.14997,
title = {Enhancing Aspect-based Sentiment Analysis in Tourism Using Large Language Models and Positional Information},
author = {Chun Xu and Mengmeng Wang and Yan Ren and Shaolin Zhu},
journal= {arXiv preprint arXiv:2409.14997},
year = {2024}
}
备注
19 pages, 17 figures