探索语言模型指令微调的多语言校准效应
计算与语言
2026-01-06 v1 机器学习
机器学习
摘要
确保深度学习模型在预测不确定性方面具有良好校准性，是维持其可信度和可靠性的关键，但尽管 foundation model 研究取得了不断进展，大型语言模型 (LLM) 与其校准之间的关系仍是开放的研究领域。本文聚焦于 LLM 在多语言设置下的校准问题，旨在更好地理解数据稀缺性如何可能导致不同的校准效应，以及常用技术在这些设置中的应用情况。我们的分析在两个多语言基准上进行，分别覆盖 29 和 42 种语言，结果显示即使在低资源语言中，模型置信度在针对高资源语言 SFT 数据集进行指令微调后也会显著增加。然而，准确率的提升仅有限或不存在，这导致模型出现误校准，凸显了标准 SFT 在多语言场景下的关键不足。此外，我们观察到使用标签平滑是一种合理的方法，可在无需低资源 SFT 数据的情况下缓解此问题，同时在所有语言中保持更好的校准。总体而言，这突显了在训练和微调 LLM 时必须考虑多语言因素，以提高其下游应用中的可靠性和公平性的重要性。
引用
@article{arxiv.2601.01362,
title = {Investigating the Multilingual Calibration Effects of Language Model Instruction-Tuning},
author = {Jerry Huang and Peng Lu and Qiuhao Zeng and Yusuke Iwasawa and Yutaka Matsuo and Sarath Chandar and Edison Marrese-Taylor and Irene Li},
journal= {arXiv preprint arXiv:2601.01362},
year = {2026}
}
备注
Accepted to The 19th Conference of the European Chapter of the Association for Computational Linguistics (EACL)