IDEA：一种通过语言到数值校准实现LLM可解释且可编辑的决策框架
人工智能
2026-04-15 v1
摘要
大型语言模型越来越多地被用于决策，但它们在高风险领域的应用仍然受到校准概率不准确、解释不可信以及无法精确融入专家知识的限制。我们提出了IDEA，一个将LLM决策知识提取到基于语义有意义因素的可解释参数模型中的框架。通过EM算法联合学习语言到数值的映射和决策参数、保持因素依赖性的相关采样，以及具有数学保证的直接参数编辑，IDEA能够产生校准的概率，同时实现定量的人机协作。在五个数据集上的实验表明，使用Qwen-3-32B的IDEA（78.6%）优于DeepSeek R1（68.1%）和GPT-5.2（77.9%），实现了完美的因素排除和精确校准——这是仅通过提示无法达到的精度。实现代码已在https://github.com/leonbig/IDEA公开。
引用
@article{arxiv.2604.12573,
title = {IDEA: An Interpretable and Editable Decision-Making Framework for LLMs via Verbal-to-Numeric Calibration},
author = {Yanji He and Yuxin Jiang and Yiwen Wu and Bo Huang and Jiaheng Wei and Wei Wang},
journal= {arXiv preprint arXiv:2604.12573},
year = {2026}
}
备注
Accepted to ACL 2026