条件语言模型的分布外检测与选择性生成
计算与语言
2023-03-09 v2
摘要
机器学习算法通常假设训练时与测试时的样本独立同分布。大量工作表明，高性能ML分类器可能显著退化并提供过度自信的错误分类预测，尤其对于分布外(OOD)输入。条件语言模型(CLMs)主要训练用于对输出序列中的下一个词元进行分类，并且由于预测是在多步上自回归进行的，在OOD输入上可能遭受更严重的退化。此外，潜在低质量输出的空间更大，因为可生成任意文本，并且知道何时信任生成输出十分重要。我们提出了一种高精度且轻量的CLM的OOD检测方法，并展示了其在抽象式摘要与翻译上的有效性。我们还展示了在分布偏移这一常见且现实的设定下，如何将我们的方法用于高质量输出的选择性生成（类比于分类的选择性预测），同时自动回避低质量输出，从而实现生成式语言模型更安全的部署。
引用
@article{arxiv.2209.15558,
title = {Out-of-Distribution Detection and Selective Generation for Conditional Language Models},
author = {Jie Ren and Jiaming Luo and Yao Zhao and Kundan Krishna and Mohammad Saleh and Balaji Lakshminarayanan and Peter J. Liu},
journal= {arXiv preprint arXiv:2209.15558},
year = {2023}
}
备注
Published in ICLR 2023