NADS：用于不确定性感知的神经架构分布搜索
机器学习
2020-06-12 v1 机器学习
摘要
机器学习（ML）系统在处理来自与训练数据不同分布的测试数据时，常遇到分布外（OoD）错误。对于关键应用中的 ML 系统，准确量化其预测不确定性并筛除这些异常输入变得十分重要。然而，现有的 OoD 检测方法易出错，有时甚至对 OoD 样本赋予更高的似然。与标准学习任务不同，目前尚无确立良好的指导性原则用于设计能准确量化不确定性的 OoD 检测架构。为解决这些问题，我们首先通过提出神经架构分布搜索（NADS）来寻求设计不确定性感知架构的指导原则。NADS 搜索在给定任务上表现良好的架构分布，使我们能识别所有不确定性感知架构中的共同构建模块。借助该表述，我们得以优化随机 OoD 检测目标并构建模型集成以执行 OoD 检测。我们进行了多项 OoD 检测实验，观察到我们的 NADS 表现优异，在 15 种不同测试配置中相较最先进方法准确率提升高达 57%。
引用
@article{arxiv.2006.06646,
title = {NADS: Neural Architecture Distribution Search for Uncertainty Awareness},
author = {Randy Ardywibowo and Shahin Boluki and Xinyu Gong and Zhangyang Wang and Xiaoning Qian},
journal= {arXiv preprint arXiv:2006.06646},
year = {2020}
}
备注
ICML 2020