中文

基于检索示例排序的指令微调用于方面级情感分析

计算与语言 2024-05-30 v2

摘要

方面级情感分析(ABSA)识别与特定方面相关的情感信息,并为企业和组织提供更深入的市场洞察。随着大型语言模型(LM)的出现,最近的研究提出使用固定示例进行指令微调,将ABSA重构为生成任务。然而,性能对上下文示例的选择很敏感;一些检索方法基于表面相似性,且独立于LM的生成目标。本研究提出了一种基于检索示例排序的指令学习方法,用于ABSA任务。对于每个目标样本,应用LM作为评分器,估计给定输入和候选示例作为提示时的输出似然,并通过分数排序将训练示例标记为正或负。提出了一种交替训练方案来同时训练检索器和LM。可以使用高质量示例构建指令提示。LM同时用于评分和推理,提高了生成效率,且不增加额外计算成本或训练难度。在三个ABSA子任务上的大量实验验证了所提方法的有效性,展示了其相对于各种强基线模型的优越性。代码和数据发布在https://github.com/zgMin/IT-RER-ABSA。

关键词

引用

@article{arxiv.2405.18035,
  title  = {Instruction Tuning with Retrieval-based Examples Ranking for Aspect-based Sentiment Analysis},
  author = {Guangmin Zheng and Jin Wang and Liang-Chih Yu and Xuejie Zhang},
  journal= {arXiv preprint arXiv:2405.18035},
  year   = {2024}
}

备注

ACL Findings 2024