Deep Confidence:一种计算高效的计算深度神经网络可靠误差的框架
机器学习
2018-10-23 v1 人工智能
定量方法
机器学习
摘要
深度学习架构已在包括体外化合物活性建模在内的若干药物发现应用中证明其实用性。尽管控制预测置信度对于提升药物发现中虚拟筛选模型的可信度、可解释性和实用性至关重要,用于估计深度学习网络所生成预测的可靠性的技术仍很大程度上未被充分探索。在此,我们提出 Deep Confidence,一个利用深度学习技术 Snapshot Ensembling 和保形预测来计算个体预测的有效且高效置信区间的框架。具体而言,Deep Confidence 通过在单一神经网络的优化阶段所访问的局部极小点处记录网络参数,生成深度神经网络的集成。该方法有助于导出一组平均预测能力相当的基础学习器(即快照),但其对给定实例会产生略有不同的预测。基础学习器间的变异性和验证残差进而被利用,借助保形预测框架计算置信区间。使用来自 ChEMBL 23 的 24 个多样化 IC50 数据集,我们表明 Snapshot Ensembles 的性能与随机森林(RF)和独立训练的深度神经网络集成相当。此外,我们发现 Deep Confidence 框架预测的置信区域涵盖更窄的数值范围。总体而言,Deep Confidence 代表了一种高度通用的误差预测框架,可应用于任何基于深度学习的应用且无需额外计算成本。
引用
@article{arxiv.1809.09060,
title = {Deep Confidence: A Computationally Efficient Framework for Calculating Reliable Errors for Deep Neural Networks},
author = {Isidro Cortes-Ciriano and Andreas Bender},
journal= {arXiv preprint arXiv:1809.09060},
year = {2018}
}