MAC-Tuning: 增强知识边界感知的大语言模型多组合问题推理
计算与语言
2025-09-16 v4 人工智能
摘要
大语言模型(LLM)捏造不存在事实的幻觉问题，因其在各类应用中的广泛采用而成为一个重要问题。先前的研究通过分析内部参数化知识边界来估计置信度以解决此问题。然而，这些研究聚焦于单问题设定，尚未探索更具挑战性的多问题设定，后者要求同时准确回答多个问题。我们针对多问题设定提出了一种新方法——多答案与置信度逐步调优(MAC-Tuning)，该方法在指令数据微调期间将答案预测和置信度估计的学习分离开来。大量实验表明，我们的方法在平均精度上比基线方法高出高达25%。
引用
@article{arxiv.2504.21773,
title = {MAC-Tuning: LLM Multi-Compositional Problem Reasoning with Enhanced Knowledge Boundary Awareness},
author = {Junsheng Huang and Zhitao He and Yucheng Huang and Sandeep Polisetty and Qingyun Wang and Yi. R Fung},
journal= {arXiv preprint arXiv:2504.21773},
year = {2025}
}
备注
We release our code and resource at https://github.com/no-touch-fish/Multi-QA-Tuning. The paper is accepted into EMNLP 2025 main