一种生成可解释人工智能叙述的智能体方法
计算与语言
2026-03-23 v1
摘要
可解释人工智能（XAI）研究近年来取得了显著增长。然而，现有的XAI方法因过于技术化和专家导向而受到批评，推动了更易理解和可访问的解释的发展。作为回应，大语言模型（LLM）生成的XAI叙述被提出为一种有前景的方法，用于将事后解释转化为更易访问的自然语言解释。在本工作中，我们提出了一种用于XAI叙述生成与优化的多智能体框架。该框架包含叙述者，它基于多个批评智能体在忠实性和连贯性指标上的反馈来生成和修订叙述，从而通过迭代实现叙述优化。我们设计了五种智能体系统（基础设计、批评者设计、批评者-规则设计、连贯设计、连贯-规则设计），并在五种LLM上对五个表格数据集进行了系统性评估。结果验证了基础设计、批评者设计和批评者-规则设计在所有LLM中均有效提升了叙述的忠实性。Claude-4.5-Sonnet在基础设计中表现最佳，经过三轮迭代后将不忠实叙述的数量减少了90%。为解决反复出现的问题，我们进一步引入了基于多数投票的集成策略。该方法持续提升了四种LLM的性能，唯独DeepSeek-V3.2-Exp除外。这些发现凸显了智能体系统在生成忠实且连贯的XAI叙述方面的潜力。
引用
@article{arxiv.2603.20003,
title = {An Agentic Approach to Generating XAI-Narratives},
author = {Yifan He and David Martens},
journal= {arXiv preprint arXiv:2603.20003},
year = {2026}
}