$\mu$DARTS：模型不确定性感知的可微分架构搜索
机器学习
2022-09-13 v2 人工智能
摘要
我们提出一种模型不确定性感知的可微分架构搜索(DARTS)，其优化神经网络以同时实现高准确率与低不确定性。我们在DARTS单元内引入crete dropout，并在训练损失中包含一个蒙特卡洛正则化项以优化crete dropout概率。在验证损失中引入预测方差项，从而能够搜索具有最小模型不确定性的架构。在CIFAR10、CIFAR100、SVHN与ImageNet上的实验验证了DARTS相较于现有DARTS方法在提升准确率与降低不确定性方面的有效性。此外，与现有DARTS方法所得架构相比，由DARTS获得的最终架构对输入图像与模型参数中的噪声表现出更高的鲁棒性。
引用
@article{arxiv.2107.11500,
title = {$\mu$DARTS: Model Uncertainty-Aware Differentiable Architecture Search},
author = {Biswadeep Chakraborty and Saibal Mukhopadhyay},
journal= {arXiv preprint arXiv:2107.11500},
year = {2022}
}
备注
10 pages, 7 Tables, 6 Figures, Accepted in IEEE ACCESS