基于循环 SG-MCMC 和软标签学习 的主观 NLP 不确定性分解
人工智能
2026-05-26 v1
摘要
注释员在情感分类中的 disagreement 反映了情感概念内在的模糊性，是主观 NLP 中评估预测器质量的关键因素。然而，目前尚无先前工作将软标签学习与贝叶斯深度学习集成，以沿多个维度评估不确定性。我们通过循环随机梯度马赫茨曼蒙特卡罗 (cSG-MCMC) 对冻结的 RoBERTa 进行线性头训练，目标是基于软标签目标函数针对注释分布进行拟合，并在五个评估维度上进行评估。在 28 情感 GoEmotions 基准上，所提出的方法在三个维度上同时优于蒙特卡罗 Dropout 和深度集成：Jensen-Shannon 散度 (JSD) 对于注释分布、每个情感 aleatoric 不确定性与 disagreement 之间的 Spearman 相关性，以及选择性预测的风险覆盖曲线下面积 (AURC) 和ROC曲线下面积 (AUROC) —— 显示独立维度可以从单个后验分布中同时获得。后验温度缩放 exhibit 双向效应，确立硬标签校准和注释-JSD 作为独立维度，并激励联合报告作为诚实的协议。
引用
@article{arxiv.2605.24773,
title = {Uncertainty Decomposition via Cyclical SG-MCMC and Soft-label Learning for Subjective NLP},
author = {Keito Inoshita and Takato Ueno},
journal= {arXiv preprint arXiv:2605.24773},
year = {2026}
}