面向深度学习模型诊断的采样（技术报告）
机器学习
2020-02-25 v1 数据库
摘要
深度学习（DL）模型在图像、音频与文本等高维数据领域的许多任务中取得了范式性突破。然而，深度神经网络的黑盒特性不仅是诸如医疗诊断等可解释性至关重要应用落地的障碍，也阻碍了对表现不佳模型的诊断。诊断或解释DL模型需计算额外产物，如激活值与梯度。这些产物数据量大，其计算、存储与查询带来了显著的数据管理挑战。本文将DL诊断表述为一个数据管理问题，并提出一组通用且具有代表性的查询来评估致力于支持这一新负载的系统。我们进一步开发了一种新颖的数据采样技术，可为这些模型调试查询产出近似但准确的结果。我们的采样技术利用DL模型学到的低维表示，并聚焦于该低维空间中数据的模型决策边界。我们在一个标准计算机视觉数据集与一个科学数据集上评估了我们的技术，结果表明我们的采样技术在查询精度上优于多种最先进替代方法。
引用
@article{arxiv.2002.09754,
title = {Sampling for Deep Learning Model Diagnosis (Technical Report)},
author = {Parmita Mehta and Stephen Portillo and Magdalena Balazinska and Andrew Connolly},
journal= {arXiv preprint arXiv:2002.09754},
year = {2020}
}