联盟式贝叶斯自编码器——面向可解释的无人监督深度学习
机器学习
2021-10-20 v1 机器学习
摘要
本文旨在通过提出两种基于对数似然估计的均值与认知不确定性的解释方法，提升自编码器（AE）预测的可解释性，这两种方法自然源于称为贝叶斯自编码器（BAE）的 AE 概率表述。为定量评估解释方法的性能，我们在传感器网络应用中进行测试，并提出了基于传感器协变量偏移的三种指标：（1）Spearman 漂移系数的 G-均值，（2）解释排序的灵敏度-特异度 G-均值，以及（3）结合上述两指标的传感器解释质量指数（SEQI）。令人惊讶的是，我们发现 BAE 预测的解释存在高度相关性，导致误导性解释。为缓解此问题，受基于智能体系统理论启发，提出了“联盟式 BAE”。我们在公开可用的状态监测数据集上的综合实验证明了使用联盟式 BAE 所获解释质量的提升。
引用
@article{arxiv.2110.10038,
title = {Coalitional Bayesian Autoencoders -- Towards explainable unsupervised deep learning},
author = {Bang Xiang Yong and Alexandra Brintrup},
journal= {arXiv preprint arXiv:2110.10038},
year = {2021}
}
备注
Preprint submitted to Journal of Applied Soft Computing