大规模多元文化知识获取与大语言模型基准测试

预训练大语言模型彻底改变了许多应用，但仍面临与文化偏见相关以及缺乏对指导跨文化交流至关重要的文化常识知识的挑战。认识到现有方法在捕捉全球多样且丰富文化方面的不足，本文介绍了一种大规模多元文化知识获取的新方法。具体而言，我们的方法策略性地从关于文化主题的信息密集的维基百科文档导航至广泛的链接页面网络。利用这一宝贵的数据收集来源，我们构建了 CultureAtlas 数据集，该数据集涵盖了广泛的次国家级地理区域和民族语言群体，并经过数据清洗和预处理以确保文本断言句子的自包含性，以及细粒度文化档案信息的提取。我们的数据集不仅有助于评估语言模型在文化多样语境下的性能，还可作为开发具有文化敏感性和意识的语言模型的基础工具。我们的工作标志着向更深入理解并弥合人工智能中文化差异差距迈出了重要一步，旨在促进数字领域全球文化的更具包容性和平衡性的表征。