面向企业应用的大语言模型多语言一致性对齐
计算与语言
2025-10-28 v2 人工智能
摘要
大型语言模型（LLM）在全球企业应用中仍不可靠，由于英语中心预训练和内部推理偏见导致高资源语言与中/低资源语言之间存在显著的性能差距。这一不一致性在多语言环境中（如客户支持、内容审查和信息检索）削弱了客户体验和操作可靠性。即使在先进的检索增强生成（RAG）系统中，我们也观察到非英语语言的准确率比英语下降最高可达29%。我们提出了一种实用的批处理对齐策略，用于微调LLM，利用每个训练批次中的语义等价多语言数据，直接对齐模型在不同语言中的输出。该方法在不损害英语性能、模型推理或检索质量的前提下，将非英语准确率提升最高可达23.9%。该方法易于实施、可扩展，并且能无缝集成到现有的LLM训练与部署管道中，为行业实现更稳健和公平的多语言AI解决方案提供了支持。
引用
@article{arxiv.2509.23659,
title = {Aligning LLMs for Multilingual Consistency in Enterprise Applications},
author = {Amit Agarwal and Hansa Meghwani and Hitesh Laxmichand Patel and Tao Sheng and Sujith Ravi and Dan Roth},
journal= {arXiv preprint arXiv:2509.23659},
year = {2025}
}
备注
Accepted at EMNLP 2025