面向数据敏感领域的LLM输出的神经符号验证（扩展预印本）
人工智能
2026-05-27 v1 计算机科学中的逻辑
软件工程
摘要
部署在高风险领域的LLM面临根本性的可靠性挑战：幻觉、不一致性和隐私漏洞引入了不可接受的风险，在这些领域，错误会带来法律、财务或安全后果。本文提出了一种混合验证架构，结合了形式化符号方法与神经语义分析，为LLM生成的内容提供互补性保证。该架构采用逻辑推理进行输入验证，利用完备性属性为结构化需求提供可判定的保证。在输出验证方面，基于嵌入的语义相似性检测形式化方法缺乏表达力的上下文幻觉。这种分离在一个并行的、基于参与者的流水线中实现，解决了基于提示的自我验证方法的局限性，后者继承了产生幻觉的分布偏差。所提出的架构和类型感知验证方法通过HAIMEDA进行了验证，HAIMEDA是一个通过行动设计研究开发的真实世界医疗设备损坏评估报告系统。评估显示，对结构化实体的幻觉检测率超过83%，对语义虚构的检测率为72%，报告创建时间减少了30%，这表明神经符号架构可以为LLM在数据敏感领域的部署提供原则性的安全保障。
引用
@article{arxiv.2605.26942,
title = {Neuro-Symbolic Verification of LLM Outputs for Data-Sensitive Domains (extended preprint)},
author = {Paul Sigloch and Christoph Benzmüller},
journal= {arXiv preprint arXiv:2605.26942},
year = {2026}
}
备注
Extended preprint version of accepted technical communication at KI 2026. 22 pages, 3 figures