关于大语言模型的校准与对齐
计算与语言
2023-11-23 v1
摘要
随着大语言模型（LLM）受到越来越多关注并得到广泛应用，可靠性的并发挑战也同时出现。置信度校准作为衡量深度模型可靠性的有效分析方法，是评估与改进其可靠性的关键工具。然而，此类研究相对不足。本工作中，我们对对齐语言模型在整个构建过程（包括预训练与对齐训练）中的校准进行了系统考察。在每个阶段，我们探究不同训练设置（如参数规模与训练数据）如何影响模型校准。为全面评估模型校准，我们在三个最受关注的方面——生成、事实性与理解——上对模型进行评估。我们的工作揭示了流行的LLM是否得到良好校准，以及训练过程如何影响模型校准。
引用
@article{arxiv.2311.13240,
title = {On the Calibration of Large Language Models and Alignment},
author = {Chiwei Zhu and Benfeng Xu and Quan Wang and Yongdong Zhang and Zhendong Mao},
journal= {arXiv preprint arXiv:2311.13240},
year = {2023}
}
备注
to be published in findings of EMNLP-2023