面向空间变异性感知神经网络的比较性物理解释：结果综述
机器学习
2021-11-01 v1 人工智能
摘要
给定空间变异性感知神经网络（SVANNs），目标是研究用于比较性物理解释的数学（或计算）模型，以提升其透明性（例如可模拟性、可分解性和算法透明性）。该问题十分重要，因其具有重要用例，如可复用性、调试性，以及在法庭上向陪审团的可解释性。挑战包括大量模型参数、神经网络泛化性能的空洞边界、过拟合风险、对噪声的敏感性等，这些都削弱了模型解释能力。现有关于模型特定或模型无关的事后解释工作因缺乏物理约束（如质量守恒）和属性（如地理学第二定律）的考量而受限。本工作利用基于地理异构特征的新颖比较方法研究 SVANNs 的物理解释。所提出的基于特征的物理解释方法通过湿地制图的案例研究进行评估。所提出的物理解释提升了 SVANN 模型的透明性，分析结果凸显了模型透明性与模型性能（如 F1-score）之间的权衡。我们还描述了一种基于建模为偏微分方程（PDEs）的地理异构过程的解释。
引用
@article{arxiv.2110.15866,
title = {Towards Comparative Physical Interpretation of Spatial Variability Aware Neural Networks: A Summary of Results},
author = {Jayant Gupta and Carl Molnar and Gaoxiang Luo and Joe Knight and Shashi Shekhar},
journal= {arXiv preprint arXiv:2110.15866},
year = {2021}
}
备注
Submission to SIGSPATIAL 2021 peer review process. The document contains 12 pages (including 2 pages of appendix)