中文

没有文化捷径:印尼多跳问答基准测试

计算与语言 2026-02-04 v1

摘要

理解文化需要跨越情境、传统和隐式社会知识进行推理,这远超记忆孤立事实的能力。然而,大多数以文化为焦点的问答(QA)基准测试依赖单跳问答,可能允许模型利用浅层线索,而非展示真正的文化推理能力。本文引入ID-MoCQA,首个大规模多跳问答数据集,用于评估大型语言模型(LLM)的文化理解能力,基于印尼传统,提供英文和印尼语两种版本。我们提出一种新框架,系统性地将单跳文化问题转化为跨越六类线索(如常识、时间、地理)的多跳推理链。我们的多阶段验证管道结合专家审阅和LLM-as-a-judge过滤,确保高质量的问答对。我们的评估显示,现有SOTA模型在文化推理方面存在显著差距,尤其在需要细致推理的任务上。ID-MoCQA为推动LLM的文化专业能力提供了具有挑战性和必要性的基准测试。

关键词

引用

@article{arxiv.2602.03709,
  title  = {No Shortcuts to Culture: Indonesian Multi-hop Question Answering for Complex Cultural Understanding},
  author = {Vynska Amalia Permadi and Xingwei Tan and Nafise Sadat Moosavi and Nikos Aletras},
  journal= {arXiv preprint arXiv:2602.03709},
  year   = {2026}
}