用于能源系统的端到端可解释AI框架，具备基于LLM的自动化自然语言解释生成功能

可解释人工智能（XAI）对于在高风险领域部署机器学习系统非常重要，在这些领域，透明度、信任和问责制至关重要。尽管深度神经网络等黑盒模型通常表现出高效率，但解释其决策仍然是一项艰巨的任务。本文提出了一个可复用的端到端XAI框架，它结合了预测、解释生成、评估以及将这些解释转换为易于非技术利益相关者理解的自然语言解释文本。该框架首先训练深度神经网络用于分类和回归任务。使用XAI算法生成局部和全局解释，分别包括局部可解释模型无关解释（LIME）和SHapley加性解释（SHAP）。为了评估这些解释，我们使用保真度和稳定性指标来了解解释反映模型行为的准确性和一致性。生成的解释包括特征重要性分数、预测特定属性，然后转换为大语言模型（LLM）的结构化输入，LLM生成自然语言解释，使每个人都能理解XAI算法生成的解释。该框架在电力系统故障检测数据集和建筑能源标签数据集上进行了测试。对于故障检测，神经网络模型达到了99%的准确率和1.00的ROC-AUC分数。对于建筑能源预测，模型达到了0.67的R2分数。这些发现表明，所提出的方法在借助LLM提高黑盒模型对所有人的可解释性的同时，产生了稳定且忠实的解释。