机器学习中基于辩护的可靠性

随着深度学习的出现，机器学习（ML）领域已在多种分类任务上超越人类水平表现。与此同时，迫切需要对模型在单个样本上预测的可靠性进行刻画与量化。在工业控制与医疗等安全关键领域应用此类模型时尤为如此。为满足该需求，我们将模型单个预测的可靠性问题关联到模型预测的认知不确定性。更具体地，我们拓展认识论中用于研究人类所获知识的有效性与局限的证成真信念（JTB）理论，以刻画监督分类器中知识的有效性与局限。我们给出对神经网络分类器的分析，将其在某一输入上预测的可靠性关联到从输入空间与网络隐空间所获支持的特征。我们假设，JTB 分析揭示了模型相对于其推断的认知不确定性（或无知），从而允许推断的强度仅以其辩护所许可为限。我们探索为输入生成的各种支持形式（例如基于 k 近邻（k-NN）与 l_p 范数），利用训练数据为该输入的预测构造辩护。通过在模拟与真实数据集上的实验，我们证明所提方法能为单个预测提供可靠性，并刻画无法确证此类可靠性的区域。