语言胜于内容:追踪多语言大语言模型中的文化理解机制
计算与语言
2025-11-12 v2 人工智能
机器学习
摘要
大型语言模型 (LLM) 越来越多地被用于多样化的文化语境中,使得准确的文化理解变得至关重要。以往的评估主要聚焦于输出层面的性能,掩盖了驱动响应差异的因素;而使用电路分析的研究涉及的语言较少且很少聚焦于文化。本文通过测量在两种条件下回答语义等价问题时激活路径的重叠度来追踪 LLM 内部的文化理解机制:一种是固定问题语言而变化目标国家,另一种是固定国家而变化问题语言。我们还使用同语言国家对来消除语言与文化的影响。结果表明,对于相同语言、跨国家的问题,内部路径的重叠度大于跨语言、相同国家的问题,表明语言特定模式具有显著性。值得注意的是,韩国与北韩的配对重叠度低且变异性高,表明语言相似性并不保证内部表征一致。
引用
@article{arxiv.2510.16565,
title = {Language over Content: Tracing Cultural Understanding in Multilingual Large Language Models},
author = {Seungho Cho and Changgeon Ko and Eui Jun Hwang and Junmyeong Lee and Huije Lee and Jong C. Park},
journal= {arXiv preprint arXiv:2510.16565},
year = {2025}
}
备注
Accepted to CIKM 2025 Workshop on Human Centric AI