基于随机平滑的自适应层次认证分割

机器学习的认证正在证明，在特定条件下，没有对抗样本可以在模型的某个范围内逃逸，这是安全关键领域的必要条件。常用的分割认证方法使用平坦的细粒度类别，由于模型在许多类别上的不确定性，导致高拒绝率。我们提出了一种更实用的新方案，对像素在多层次层级结构中进行认证，对于经典方法会拒绝的不稳定组件，自适应地放宽认证到更粗糙的层级，从而有效降低拒绝率，同时提供更受认证的语义上有意义的信息。我们数学上形式化了问题设置，引入自适应层次认证算法并证明了其保证的正确性。由于认证准确率在更粗糙的类别上不考虑信息损失，我们引入了认证信息增益(Certified Information Gain, $\mathrm{CIG}$)指标，其与类别粒度级别成正比。我们在Cityscapes、PASCAL-Context、ACDC和COCO-Stuff数据集上进行了广泛实验，结果表明，我们的自适应算法在当前最先进的认证方法之上实现了更高的$\mathrm{CIG}$和更低的拒绝率。我们的代码可在此处找到：https://github.com/AlaaAnani/adaptive-certify。