信任在何处崩塌？基于信任矩阵与条件信任密度的深度神经网络量化信任分析

近年来深度学习的发展与成功，促使人们投入大量精力与资金，推动其在各类应用中的广泛普及，从个人助理、智能导航到电子商务中的搜索与产品推荐。随着深度学习应用的急剧增长，支撑这些应用的深度神经网络的可信度问题随之而来。为回答此类问题，近期出现了对信任量化的关注。在本工作中，我们引入信任矩阵的概念，这是一种新颖的信任量化策略，它利用 Wong 等人近期提出的问答信任度量，针对给定深度神经网络在给定问题集下信任崩塌的具体位置，提供更深入、更细致的洞察。更具体地，信任矩阵定义了给定行动者-预言机回答场景下预期的问答信任，从而使人能够快速发现低信任区域，这些区域需加以解决以提升深度神经网络的可信度。所提出的信任矩阵计算简单、人类可解释，并且据作者所知，是首个在行动者-预言机回答层面研究信任的工作。我们进一步借助条件信任密度的概念扩展信任密度。我们通过实验利用信任矩阵研究若干知名的图像识别深度神经网络架构，并进一步针对一个有趣的行动者-预言机回答场景研究信任密度与条件信任密度。结果表明，信任矩阵连同条件信任密度，可作为现有信任量化度量体系的补充工具，指导从业者和监管者创建并认证可信运行的深度学习方案。