CulFiT：基于多语言批判数据合成的细粒度文化感知 LLM 训练范式
计算与语言
2025-05-28 v2
摘要
大型语言模型 (LLMs) 在各种任务中展现出了卓越的能力，但它们往往表现出特定的文化偏见，忽视了低资源地区的价值观与语言多样性。这种文化偏见不仅损害了普遍平等，还可能导致强化刻板印象和固化歧视。为了解决这一问题，我们提出了 CulFiT，一种利用多语言数据和细粒度奖励建模来增强文化敏感性与包容性的新型文化感知训练范式。我们的方法合成了多样的文化相关问题，用文化相关的语言构建批判数据，并采用细粒度奖励将文化文本分解为可验证的知识单元，以实现可解释的评估。我们还引入了 GlobalCultureQA，一个多语言开放式问答数据集，旨在评估全球语境下的文化感知响应。在三个现有基准和我们的 GlobalCultureQA 上的大量实验表明，CulFiT 在文化对齐和一般推理方面实现了 SOTA 的开源模型性能。
引用
@article{arxiv.2505.19484,
title = {CulFiT: A Fine-grained Cultural-aware LLM Training Paradigm via Multilingual Critique Data Synthesis},
author = {Ruixiang Feng and Shen Gao and Xiuying Chen and Lisi Chen and Shuo Shang},
journal= {arXiv preprint arXiv:2505.19484},
year = {2025}
}
备注
accepted by ACL 2025