XAI meets LLMs: 大语言模型与可解释人工智能关系综述
计算与语言
2024-07-23 v1
摘要
在本综述中，我们聚焦于大语言模型（LLM）研究中的关键挑战，强调可解释性的重要性。鉴于来自 AI 和商业部门的日益增长的兴趣，我们突出了 LLM 中透明性的必要性。我们检查了当前 LLM 研究和 eXplainable Artificial Intelligence（XAI）之间的双重路径，以及通过 XAI 提高性能以及对模型可解释性的新兴关注。我们的论文主张一种平衡的方法，同样重视可解释性与功能性进步。鉴于 LLM 研究的快速发展，我们的综述包括了同行评审论文和预印本（arXiv）论文，为 XAI 在 LLM 研究中的作用提供了全面概述。我们通过呼吁研究社区共同推进 LLM 和 XAI 两个领域的发展来结束本综述。
引用
@article{arxiv.2407.15248,
title = {XAI meets LLMs: A Survey of the Relation between Explainable AI and Large Language Models},
author = {Erik Cambria and Lorenzo Malandri and Fabio Mercorio and Navid Nobani and Andrea Seveso},
journal= {arXiv preprint arXiv:2407.15248},
year = {2024}
}