基于微调大型语言模型的社交媒体立场检测
计算与语言
2024-04-19 v1 社会与信息网络
摘要
立场检测是自然语言处理中的一项关键任务,旨在通过文本分析确定作者的观点。本研究评估了立场检测方法的演变,从早期的机器学习方法过渡到突破性的BERT模型,最终发展到现代大型语言模型(LLM),如ChatGPT、LLaMa-2和Mistral-7B。尽管ChatGPT的闭源性质和相关成本带来了挑战,但LLaMa-2和Mistral-7B等开源模型提供了一种有前景的替代方案。最初,我们的研究重点是利用多个公开数据集对ChatGPT、LLaMa-2和Mistral-7B进行微调。随后,为了进行全面比较,我们评估了这些模型在零样本和少样本学习场景中的性能。结果凸显了LLM在准确检测立场方面的卓越能力,所有测试模型均超越了现有基准。值得注意的是,尽管LLaMa-2和Mistral-7B的规模小于ChatGPT,但它们在立场检测方面表现出显著的效率和潜力。本研究强调了LLM在立场检测中的潜力,并呼吁在该领域进行更广泛的研究。
引用
@article{arxiv.2404.12171,
title = {Stance Detection on Social Media with Fine-Tuned Large Language Models},
author = {İlker Gül and Rémi Lebret and Karl Aberer},
journal= {arXiv preprint arXiv:2404.12171},
year = {2024}
}