一种支持以用户为中心且知识赋能的人工智能系统解释的本体方法

可解释人工智能（Explainable AI）专注于帮助人类理解人工智能系统的工作原理或其决策，并且几十年来一直是人工智能的基石。最近关于可解释性的研究集中在解释人工智能模型的工作原理或模型可解释性上。也有一些立场声明和综述论文详细描述了最终用户对以用户为中心的可解释性的需求，但实现较少。因此，本论文旨在弥合模型可解释性与以用户为中心的可解释性之间的一些差距。我们创建了一个解释本体（EO），通过其支持组件来表示文献中推导出的解释类型。我们实现了一个知识增强的问答（QA）流水线，以支持临床环境中的上下文解释。最后，我们正在实现一个系统，用于组合来自不同人工智能方法和数据模态的解释。在EO中，我们可以表示十五种不同的解释类型，并且我们已经在六个示例用例中测试了这些表示。我们发现，知识增强提高了基础大语言模型在上下文问答中的性能，并且性能在不同疾病组之间存在差异。在同一环境中，临床医生也表示他们希望将可操作性视为解释的主要焦点之一。在我们的解释组合方法中，我们计划使用相似性度量来确定慢性病检测环境中解释的相似性。总的来说，通过本论文，我们设计了能够支持跨不同用例的知识赋能解释的方法，考虑了当今人工智能时代能够生成这些解释的支持组件的方法以及能够增强它们的领域知识源。