可解释机器学习：系统中心视角的重要性

在多个信号处理应用乃至教育领域，其格局似乎正受到机器学习（ML），特别是深度学习（DL）兴起的显著影响。其主要原因在于 DL 能够对信号与目标任务之间复杂且未知的关系进行建模。特别是，有监督的 DL 算法在不同应用中识别感知或语义上有用的信号信息方面相当成功。在所有这些应用中，训练过程使用带标签的数据来学习一个从信号到所需信息（类别标签或目标标签）的映射函数（通常是隐式的）。然后，训练好的 DL 模型被期望能正确识别/分类给定测试信号中的相关信息。因此，基于 DL 的框架总体上非常有吸引力，因为所需映射的特征和特性几乎完全从数据中学习，无需诉诸显式的模型/系统开发。然而，对隐式建模的关注也引发了由此产生的基于 DL 的映射缺乏可解释性/可理解性的问题，即黑箱问题。因此，可解释的 ML/DL 成为一个活跃的研究领域，其主要目标是阐明 ML/DL 模型如何得出预测。但我们注意到，尽管已有诸多努力，关于黑箱问题的评论似乎缺乏从以下视角进行的技术讨论：a) 其起源和根本原因，以及 b) 其对 ML/DL 系统设计和部署的实际影响。相应地，可以提出的一个合理问题如下：传统的以系统为中心的方法（强调显式系统建模）能否为黑箱问题的本质提供有用的见解，并帮助开发更透明的 ML/DL 系统？