置换与增广的折棍贝叶斯多项回归
统计方法学
2018-06-20 v3 机器学习
摘要
为了在给定协变量的情况下对分类响应变量进行建模，我们提出了一种置换与增广折棍构造，它将观测类别一一映射到随机置换的隐折棍上。这种新构造将多项回归转化为对特定折棍二元随机变量的回归分析，这些变量在给定依赖于协变量的折棍成功概率（由其对应类别的回归系数参数化）时是相互独立的。paSB 构造允许将任意基于交叉熵损失的二元分类器转化为贝叶斯多项分类器。具体而言，我们用一族依赖于协变量的 softplus 函数对折棍失败概率的负对数进行参数化，以构造非参数贝叶斯多项 softplus 回归，并将贝叶斯支持向量机（SVM）转化为贝叶斯多项 SVM。这些贝叶斯多项回归模型不仅能够提供概率估计、量化不确定性、增强鲁棒性并产生非线性分类决策边界，而且适用于后验模拟。实例结果展示了它们吸引人的特性和性能。
引用
@article{arxiv.1612.09413,
title = {Permuted and Augmented Stick-Breaking Bayesian Multinomial Regression},
author = {Quan Zhang and Mingyuan Zhou},
journal= {arXiv preprint arXiv:1612.09413},
year = {2018}
}