面向序贯决策的结构化权重不确定性学习
机器学习
2018-04-03 v2 人工智能
机器学习
摘要
在神经网络（NNs）权重上学习概率分布近来在许多应用中被证明有益。贝叶斯方法，如 Stein 变分梯度下降（SVGD），提供了推理 NN 模型不确定性的优雅框架。然而，通过假设各 NN 权重独立高斯先验（常如此应用），SVGD 并未施加权重间常存在结构信息（依赖性）的先验知识。我们提出在 SVGD 框架内，通过对 NN 参数采用矩阵变量高斯先验，实现结构化权重不确定性的高效后验学习。我们进一步在序贯决策问题中考察所学结构不确定性，包括情境化老虎机与强化学习。在多个合成与真实数据集上的实验表明了我们的模型相较最先进方法的优越性。
引用
@article{arxiv.1801.00085,
title = {Learning Structural Weight Uncertainty for Sequential Decision-Making},
author = {Ruiyi Zhang and Chunyuan Li and Changyou Chen and Lawrence Carin},
journal= {arXiv preprint arXiv:1801.00085},
year = {2018}
}
备注
Accepted by AISTATS 2018