学习变异：教导语言模型再现人类语言变异性
计算与语言
2025-10-08 v2
摘要
自然语言生成 (NLG) 任务常常存在内在变异性；例如，给定上下文预测下一个词存在多个有效响应，这在让多个人完成该任务时会显现出来。虽然拥有能够再现感兴趣整个人群中内在多样性视角的语言模型 (LM) 明显有益，但 Ilia 和 Aziz (2024) 表明语言模型并未很好地再现这种语言变异性。他们推测，这种 inability 可能源于缺乏使用反映这种内在变异性数据的一致性训练。因此，我们调查在多个合理词续写选项的上下文上训练语言模型，是否可以提高其再现人类语言变异性的能力，以进行下一个词的预测。我们采用预训练模型和指令微调模型的微调技术；并在使用 Provo 语料库对 GPT-2 和 Mistral-7B-IT 进行微调后展示了其潜力。我们的评估通过测量在上下文中人类和模型下一个词分布的差异来衡量，在微调前后均显示，我们的多标签微调提高了语言模型再现语言变异性的能力；无论是对于容纳更高或更低变异性的上下文。
引用
@article{arxiv.2509.17794,
title = {Learning to vary: Teaching LMs to reproduce human linguistic variability in next-word prediction},
author = {Tobias Groot and Salo Lacunes and Evgenia Ilia},
journal= {arXiv preprint arXiv:2509.17794},
year = {2025}
}
备注
EMNLP UncertaiNLP Workshop 2025