您微调的大语言模型已经是强大的分布外检测器
计算与语言
2025-03-07 v2 人工智能
机器学习
机器学习
摘要
我们重新审视了预训练大语言模型（LLM）与其微调变体之间的似然比，将其作为分布外（OOD）检测的标准。该标准背后的直觉是，预训练LLM由于训练数据量大，具有关于OOD数据的先验知识，而一旦使用分布内数据进行微调，LLM就拥有足够的知识来区分它们的差异。利用LLM的能力，我们表明似然比可以作为有效的OOD检测标准。此外，我们将所提出的基于LLM的似然比应用于问答（QA）系统中的OOD问题检测，这可用于提高专用LLM处理一般问题的性能。由于似然比可以通过当代神经网络框架中的损失函数轻松获得，因此该方法在实践中易于实现。由于预训练LLM及其各种微调模型在Hugging Face等在线平台上广泛可用，我们提出的标准可以轻松地用于OOD检测，无需进一步训练。我们在多种设置下进行了全面评估，包括远OOD、近OOD、垃圾邮件检测和QA场景，以证明该方法的有效性。代码可在https://github.com/andiac/LLMOODratio获取。
引用
@article{arxiv.2404.08679,
title = {Your Finetuned Large Language Model is Already a Powerful Out-of-distribution Detector},
author = {Andi Zhang and Tim Z. Xiao and Weiyang Liu and Robert Bamler and Damon Wischik},
journal= {arXiv preprint arXiv:2404.08679},
year = {2025}
}