可解释性工具赋能未来原位实时行星探测中的深度学习
计算机视觉与模式识别
2022-01-19 v1 人工智能
摘要
深度学习（DL）已被证明是一种有效的机器学习与计算机视觉技术。基于DL的图像分割、目标识别与分类将助力诸多原位火星车任务，如路径规划与人工制品识别/提取。然而，大多数深度神经网络（DNN）架构极为复杂，被视为“黑箱”。本文中，我们使用积分梯度来描述各神经元对输出类别的贡献。其提供了一套可解释性工具（ET），打开了DNN的黑箱，从而可对神经元类别分类的贡献进行排序与可视化。各全连接层中的神经元通过度量给定真实图像标签下神经元对类别投票的期望贡献被映射与排序。神经元的重要性依据其对输出类别正确或错误的贡献以及错误类别的抑制或增强，并按各类别大小加权来确定优先级。ET提供了一种剪枝网络的接口，以增强高排名神经元并移除低性能神经元。ET技术将使DNN更小更高效，便于在小型嵌入式系统中实现。其亦带来更具可解释性与可测试性的DNN，使系统更易于验证与确认（Validation & Verification）。ET技术的目标是推动未来原位行星探测任务中DL的采用。
引用
@article{arxiv.2201.05775,
title = {Explainability Tools Enabling Deep Learning in Future In-Situ Real-Time Planetary Explorations},
author = {Daniel Lundstrom and Alexander Huyen and Arya Mevada and Kyongsik Yun and Thomas Lu},
journal= {arXiv preprint arXiv:2201.05775},
year = {2022}
}