变换重要性及其在宇宙学中的应用
机器学习
2021-06-15 v2 天体物理仪器与方法
机器学习
摘要
机器学习处于科学发现、知识生成和人工智能新可能性的核心。其对这些领域的潜在益处需要超越预测准确性并聚焦于可解释性。特别是，许多科学问题需要在领域特定的可解释特征空间（例如频域）中进行解释，而对原始特征（例如像素空间）的归因可能难以理解甚至具有误导性。为应对这一挑战，我们提出 TRIM（TRansformation IMportance，变换重要性），一种将重要性归因于变换空间中特征的新方法，并可事后应用于完全训练好的模型。TRIM 的动机是使用深度神经网络（DNNs）在模拟数据上进行宇宙学参数估计问题，但它普遍适用于跨领域/模型，并且可以与任何局部解释方法结合。在我们的宇宙学示例中，将 TRIM 与上下文分解相结合，在识别 DNN 使用的频率方面显示出有前景的结果，帮助宇宙学家理解并验证模型学习到的是适当的物理特征而非模拟伪影。
引用
@article{arxiv.2003.01926,
title = {Transformation Importance with Applications to Cosmology},
author = {Chandan Singh and Wooseok Ha and Francois Lanusse and Vanessa Boehm and Jia Liu and Bin Yu},
journal= {arXiv preprint arXiv:2003.01926},
year = {2021}
}
备注
Published in ICLR 2020 Workshop on Fundamental Science in the era of AI