利用测试时 Dropout 实现深度神经网络可靠预测误差
机器学习
2019-06-25 v1 机器学习
摘要
尽管深度学习在药物发现中的应用正获得越来越多的关注，但缺乏为神经网络计算可靠预测误差的方法，阻碍了其在诸如精准医学等必须识别不可靠预测的领域中指导决策的应用。本文中，我们提出一种利用测试时 Dropout（Test-Time Dropout）与保形预测（Conformal Prediction）为神经网络计算可靠预测误差的框架。具体而言，该算法包括使用 dropout 训练单个神经网络，然后将其对验证集与测试集各应用 N 次，此步骤亦采用 dropout。因此，验证集与测试集中的每个样本都生成了一组预测集成。随后利用验证集的残差与绝对预测误差，通过保形预测为测试集样本计算预测误差。我们利用来自 ChEMBL 23 的 24 个生物活性数据集表明，dropout 保形预测器是有效（即真实值落于预测区间内的样本比例与置信水平强相关）且高效的，因为所预测的置信区间比由随机森林（RF）模型生成的保形预测器更窄。最后，我们在回顾性虚拟筛选实验中显示，基于 dropout 与 RF 的保形预测器对活性化合物的召回率相当。总体而言，我们提出了一种计算高效的框架（除训练单个网络外仅需 N 次额外前向传播）以利用测试时 Dropout 与保形预测框架，从而为深度神经网络生成可靠的预测误差。
引用
@article{arxiv.1904.06330,
title = {Reliable Prediction Errors for Deep Neural Networks Using Test-Time Dropout},
author = {Isidro Cortes-Ciriano and Andreas Bender},
journal= {arXiv preprint arXiv:1904.06330},
year = {2019}
}