通过混合效用最小贝叶斯风险（HUMBR）降低企业AI工作流程中的幻觉问题
机器学习
2026-04-14 v1 密码学与安全
摘要
尽管大语言模型（LLM）推动了自动化，但对于涉及法律事务、风险管理和隐私合规等高风险企业工作流程而言，必须给予高度关注。对于Meta及其他组织而言，此类工作流程中一处幻觉陈述都可能导致实质性后果。我们表明，通过将幻觉缓解问题表述为最小贝叶斯风险（Minimum Bayes Risk, MBR）问题，可以显著降低此类风险。具体而言，我们引入一种混合效用MBR（Hybrid Utility MBR, HUMBR）框架，通过综合语义嵌入相似度与词汇精确度来识别无需真实参考依据即可获得共识，并为此推导严格的误差界。我们通过全面实证评估（TruthfulQA和LegalBench等广泛使用的公共基准套件，以及Meta生产部署中的真实数据）来补充这一理论分析。我们的实证研究结果表明，MBR显著优于标准的通用自我一致性（Universal Self-Consistency），该管道的81%建议相对于人工制定的真实依据更受青睐，关键召回失败几乎被消除。
关键词
引用
@article{arxiv.2604.11141,
title = {Reducing Hallucination in Enterprise AI Workflows via Hybrid Utility Minimum Bayes Risk (HUMBR)},
author = {Chenhao Fang and Jordi Mola and Mark Harman and Jason Nawrocki and Vaibhav Shrivastava and Yue Cheng and Jay Minesh Shah and Katayoun Zand and Mansi Tripathi and Arya Pudota and Matthew Becker and Hervé Robert and Abhishek Gulati},
journal= {arXiv preprint arXiv:2604.11141},
year = {2026}
}