ValuesRAG：通过检索增强情境学习提升文化对齐性
计算与语言
2025-05-09 v3 人工智能
社会与信息网络
摘要
确保大型语言模型（LLM）中的文化价值观对齐仍是一个关键挑战，因为这些模型常常嵌入了来自训练数据的西方中心主义偏见，导致在跨文化应用中出现误表示和公平性问题。现有方法，如角色分配和few-shot学习，由于依赖预训练知识、可扩展性有限，以及无法捕捉细腻的文化价值观，难以有效解决这些限制。为此，我们提出了ValuesRAG，一种新型且有效的框架，将检索增强生成（RAG）与情境学习（ICL）应用于文本生成期间的动态文化和人口统计知识集成。利用世界价值调查（WVS）数据集，ValuesRAG首先生成每个个体的价值观摘要。随后，我们精选了若干具代表性的区域数据集作为测试数据集，并检索基于人口统计特征的相关价值观摘要，随后进行重排序以选择最相关的k个摘要。我们使用6个多样化的区域数据集评估ValuesRAG，结果显示其在主要实验和消融实验中均优于基线方法，包括零-shot、角色分配、few-shot和混合方法。值得注意的是，ValuesRAG在所有先前方法中取得最佳整体性能，证明了其在培育文化对齐和包容性AI系统方面的有效性。我们的发现凸显了动态检索方法在弥合全球LLM能力与本地化文化价值观之间差距的潜力。
引用
@article{arxiv.2501.01031,
title = {ValuesRAG: Enhancing Cultural Alignment Through Retrieval-Augmented Contextual Learning},
author = {Wonduk Seo and Zonghao Yuan and Yi Bu},
journal= {arXiv preprint arXiv:2501.01031},
year = {2025}
}
备注
preprint