不要只说“我不知道”！自对齐大语言模型以带解释的方式回应未知问题
计算与语言
2024-10-03 v2 机器学习
摘要
尽管大语言模型（LLM）在回答问题方面具有显著能力，但当问题没有确定答案时，它们通常表现出相当程度的过度自信。为了避免对这些未知问题提供幻觉答案，现有研究通常探讨拒绝回答这些问题的方法。在这项工作中，我们提出了一种新颖且可扩展的自对齐方法，利用LLM自身来增强其对不同类型未知问题的响应能力，不仅能够拒绝回答，还能对未知问题的不可回答性提供解释。具体而言，Self-Align方法首先采用两阶段类感知自增强方法生成大量未知问题-响应数据。然后，我们进行差异驱动的自筛选，以选择合格的数据来微调LLM自身，从而按需对齐对未知问题的响应。在两个数据集上针对四种未知问题的实验结果表明，Self-Align方法在三种任务形式化方面优于现有基线。
引用
@article{arxiv.2402.15062,
title = {Don't Just Say "I don't know"! Self-aligning Large Language Models for Responding to Unknown Questions with Explanations},
author = {Yang Deng and Yong Zhao and Moxin Li and See-Kiong Ng and Tat-Seng Chua},
journal= {arXiv preprint arXiv:2402.15062},
year = {2024}
}