用于多尺度系统可解释深度学习的互信息
机器学习
2021-07-28 v2 数值分析
数值分析
机器学习
摘要
从消费电子到高超声速飞行器等复杂系统的设计周期及时完成，依赖于基于仿真的快速原型设计。后者通常涉及可能相关的控制变量（CVs）与感兴趣量（QoIs）的高维空间，其分布为非高斯且可能多模态。我们开发了一种模型无关、矩独立的全局敏感性分析（GSA），其依靠微分互信息对 CVs 对 QoIs 的影响排序。这一信息论 GSA 方法的数据需求，通过以深度神经网络代理模型替代基于物理的模型中计算密集型组件来满足。随后，该 GSA 被用于解释网络预测，并部署代理模型以闭合设计回路。作为审视代理模型的不确定性量化方法，该框架兼容多种黑盒模型。我们证明，在能源存储领域两个关注应用中，代理模型驱动的互信息 GSA 提供了有用且可区分的排序。因而，我们的信息论 GSA 通过识别最敏感与最不敏感输入方向并在适当降维参数子空间上执行后续优化，为加速产品设计提供了“外循环”。
引用
@article{arxiv.2009.04570,
title = {Mutual Information for Explainable Deep Learning of Multiscale Systems},
author = {Søren Taverniers and Eric J. Hall and Markos A. Katsoulakis and Daniel M. Tartakovsky},
journal= {arXiv preprint arXiv:2009.04570},
year = {2021}
}
备注
27 pages, 8 figures. Added additional examples