大语言模型能否捕捉专家的不确定性?基于萨舍尔基本价值理论的伦侈学定性研究比较分析
计算与语言
2026-03-09 v2
摘要
对开放式访谈的定性分析是伦侈学和经济学研究中的核心任务,通过揭示个人的价值观、动机以及在文化背景下的金融行为来发现这些行为。虽然大语言模型(LLMs)为自动化和丰富此类解释性工作提供了前景,但它们在固有任务模糊性下是否能够产生细致可靠的解释尚不明确。本文我们评估大语言模型在基于萨舍尔基本价值理论框架识别长篇访谈中表达的前三大人类价值方面的能力。我们将其输出与专家注释进行比较,分析两者在性能和不确定性模式上的表现。结果表明,大语言模型在基于集合的指标(F1、Jaccard)上接近人类 ceiling,但在恢复确切的价值排名方面表现较差,体现在较低的 RBO 分数上。虽然大多数模型的平均萨舍尔价值分布与人类分析师的分布接近,但它们在萨舍尔价值上的不确定性结构却与专家的不确定性模式存在差异。在所评估的模型中,Qwen 的表现最接近专家水平的一致性,显示出与专家萨舍尔价值分布最强的对齐。大语言模型集成方法在各项指标上均取得一致性提升,其中多数投票和巴德拉计数表现最佳。值得注意的是,对某些萨舍尔价值(如安全)的系统性过度关注,表明大语言模型提供补充视角的潜力,以及进一步调查模型引起的价值偏见的必要性。总体而言,我们的发现凸显了大语言模型在固有模糊性定性价值分析中作为合作者的潜力与局限性。
引用
@article{arxiv.2603.04897,
title = {Can LLMs Capture Expert Uncertainty? A Comparative Analysis of Value Alignment in Ethnographic Qualitative Research},
author = {Arina Kostina and Marios Dikaiakos and Alejandro Porcel and Tassos Stassopoulos},
journal= {arXiv preprint arXiv:2603.04897},
year = {2026}
}
备注
Accepted for a poster session at BIG.AI at MIT 2026