通过因果提示工程减少 LLM 幻觉的领域专家心智模型增强
人工智能
2025-09-16 v1 人机交互
摘要
各种学科和领域都存在困难的决策问题。大型语言模型 (LLM) 尤其是生成式技术的兴起，激发了将其用于决策支持的兴趣。然而，LLM 尚无法解决训练数据中的缺失问题，导致幻觉发生。检索增强生成 (RAG) 通过纳入外部信息检索来增强 LLM，从而减少幻觉并提高准确性。然而，RAG 及相关方法仅是部分解决方案，因为它们可能无法获取所有必要来源或关键缺失信息。即使是日常问题，也常常挑战 LLM 的能力。提交较长的包含上下文和示例的提示是一种解决知识缺口的方法，但设计有效的提示并不容易，且可能无法捕捉领域专家的复杂心智模型。对于缺乏关键信息的任务，LLM 是不够的，许多现有系统在可用文件中也 poorly 被表示。本文探讨了如何使 LLM 更高效地进行决策，采用评估是否回应捷径建议书的运行示例。我们提出一种基于优化的人机对话和单调布尔函数及 k 值函数的技术，用于发现决策中可计算的个人领域专家心智模型 (EMM)。我们的 EMM 算法进行 LLM 提示工程，包含四个步骤：(1) 因子识别，(2) 因子的分层结构化，(3) 生成通用领域专家心智模型规范，(4) 从该规范生成详细的通用领域专家心智模型。
引用
@article{arxiv.2509.10818,
title = {LLM Enhancement with Domain Expert Mental Model to Reduce LLM Hallucination with Causal Prompt Engineering},
author = {Boris Kovalerchuk and Brent D. Fegley},
journal= {arXiv preprint arXiv:2509.10818},
year = {2025}
}
备注
25 pages,4 figures, 2 tables