CAReDiO:基于代表性与辨识度引导的数据优化 cultural alignment 框架
计算与语言
2026-03-09 v2
摘要
随着大语言模型 (LLM) 在不同地区广泛部署,与多元文化对齐至关重要,以提高用户参与度并缓解文化冲突。近期研究要么合集,要么人工标注特定文化的语料进行对齐。然而,受文化理论启发,我们认识到这些方法面临两个关键挑战:(1) 代表性:这些语料未充分捕捉目标文化的核心特征,导致覆盖不足和冗余;(2) 辨识度:它们未能区分目标文化的独特细微差别与跨文化共享模式,阻碍精准的文化建模。为处理这些挑战,我们引入 CAReDiO,一种新颖的数据优化框架,通过交替优化文化敏感问题和答案,运用两种信息论目标在上下文中实现,以提升构构数据的文化代表性和辨识度。对 15 种文化进行的大量实验表明,CAReDiO 能创建高质量数据,包含更丰富的文化信息,使小型开源或大型专有 LLM 仅需 200 样本即可实现高效对齐,在多选和开放式基准测试中均一致优于先前数据集。
引用
@article{arxiv.2504.08820,
title = {CAReDiO: Cultural Alignment via Representativeness and Distinctiveness Guided Data Optimization},
author = {Jing Yao and Xiaoyuan Yi and Jindong Wang and Zhicheng Dou and Xing Xie},
journal= {arXiv preprint arXiv:2504.08820},
year = {2026}
}