一种用于时间相关可解释人工智能的时间型二类模糊系统
人工智能
2022-10-25 v1 信息论
math.IT
摘要
可解释人工智能(XAI)是一种提供透明模型与决策的范式，其易于被非技术受众理解、分析与增强。基于模糊逻辑系统(FLS)的XAI可提供一个可解释的框架，同时也能对真实世界环境中存在的不确定性进行建模，这使其适用于可解释性为必要需求的应用。然而，多数现实过程不仅具有高不确定性，其本身也是时间相关的，即过程随时间变化。本工作中，我们提出一种用于时间相关XAI(TXAI)系统的新颖时间型二类FLS方法，其能利用(测量的)出现频率来考量测量值在时域中出现的可能性。在时间型二类模糊集(TT2FSs)中，构建了四维(4D)时间相关隶属函数，其中利用关系来构造论域元素与其出现频率之间的相互关联。TXAI系统在10折测试数据集上表现出更优的分类能力，其平均召回率为95.40%，优于基于非时间广义二类(GT2)模糊集的标准XAI系统(平均召回率87.04%)。TXAI亦显著优于多数不可解释AI系统，平均召回率提升幅度为3.95%至19.04%。此外，TXAI还可利用嵌入模型中的出现频率值勾勒出最可能的时间相关轨迹；即给定确定时间间隔内的一条规则，后续时间间隔中最可能的下一条规则是什么。就此而言，所提TXAI系统对刻画行为或生物过程等现实时间相关过程的演化具有深远影响。
引用
@article{arxiv.2210.12571,
title = {A Temporal Type-2 Fuzzy System for Time-dependent Explainable Artificial Intelligence},
author = {Mehrin Kiani and Javier Andreu-Perez and Hani Hagras},
journal= {arXiv preprint arXiv:2210.12571},
year = {2022}
}