构建可信AI：通过大语言模型、逻辑推理与知识图谱实现透明AI系统（TranspNet）
人工智能
2025-06-10 v2 新兴技术
摘要
随着对AI缺乏透明性的担忧日益增加，尤其是在医疗和金融等高风险领域，对可解释和可信系统的需求日益迫切。尽管大语言模型（LLM）在生成准确输出方面表现出色，但其“黑箱”特性对透明度和信任构成了重大挑战。为解决这些问题，本文提出了TranspNet框架，该框架将符号AI与LLM相结合。通过利用领域专家知识、检索增强生成（RAG）和答案集编程（ASP）等正式推理框架，TranspNet增强了LLM输出的结构化推理和验证能力。该方法旨在帮助AI系统在提供准确结果的同时，尽可能保证可解释性和可信度，符合监管对透明度和问责制的要求。TranspNet为开发可靠且可解释的AI系统提供了解决方案，适用于信任至关重要的实际应用场景。
引用
@article{arxiv.2411.08469,
title = {Building Trustworthy AI: Transparent AI Systems via Large Language Models, Ontologies, and Logical Reasoning (TranspNet)},
author = {Fadi Al Machot and Martin Thomas Horsch and Habib Ullah},
journal= {arXiv preprint arXiv:2411.08469},
year = {2025}
}