大语言模型能否帮助标注员识别道德框架?——社交媒体疫苗争论案例研究
计算与语言
2025-02-06 v2 人工智能
计算机与社会
人机交互
社会与信息网络
摘要
当今社交媒体在塑造公共话语方面发挥着关键作用,尤其是在疫苗等分歧议题上,不同的道德视角影响个人意见。在自然语言处理领域,数据稀缺以及心理语言学任务(如识别道德框架)的复杂性,使得仅依赖人类标注员成本高昂、耗时,而且容易受认知负荷影响导致不一致。为此,我们利用大语言模型(LLM),它们擅长通过零样本学习适应新任务,结合少量情境示例及与任务原则相联系的解释。我们的研究探讨了大语言模型在社交媒体疫苗争论中识别道德框架的潜力。我们采用两步方法:先生成概念和解释,再使用“思考 aloud”工具进行人类评估。我们的研究表明,将大语言模型集成到标注过程中可提升准确性、降低任务难度、减轻认知负荷,为复杂心理语言学任务中的人机协作指明了前景。
引用
@article{arxiv.2502.01991,
title = {Can LLMs Assist Annotators in Identifying Morality Frames? -- Case Study on Vaccination Debate on Social Media},
author = {Tunazzina Islam and Dan Goldwasser},
journal= {arXiv preprint arXiv:2502.01991},
year = {2025}
}
备注
Accepted at 17th ACM Web Science Conference 2025 (WebSci'25)