负责任的多语言大语言模型：开发、应用与社会影响综述
计算与语言
2024-10-24 v1 人工智能
摘要
多语言大语言模型（MLLMs）代表了跨越语言界限实现人工智能民主化的关键进展。虽然理论基础已较为完善，但实际实施指南仍较为分散。本文通过提供一个全面的端到端框架，弥合了在生产环境中开发和部署MLLMs的差距。我们做出了三项独特的贡献：首先，我们提出了一个从数据预处理到部署的可操作流程，整合了学术研究和工业应用的见解。其次，以Llama2为案例研究，我们提供了增强多语言能力的详细优化策略，包括平衡高资源语言和低资源语言的课程学习方法、分词策略和有效的采样方法。第三，我们提供了一个跨学科分析，考虑了MLLM开发中的技术、语言和文化视角。我们的研究结果揭示了支持语言多样性的关键挑战，88.38%的世界语言被归类为低资源语言，影响了超过十亿的说话者。我们通过客户服务、搜索引擎和机器翻译中的实际应用来审视实用的解决方案。通过将理论框架与生产就绪的实施策略相结合，本综述为致力于开发更具包容性和有效性的多语言人工智能系统的从业者和研究人员提供了基本指导。
引用
@article{arxiv.2410.17532,
title = {Responsible Multilingual Large Language Models: A Survey of Development, Applications, and Societal Impact},
author = {Junhua Liu and Bin Fu},
journal= {arXiv preprint arXiv:2410.17532},
year = {2024}
}