基于概率单纯形上平方神经网络族的标签分布学习
机器学习
2025-06-10 v2
摘要
标签分布学习（LDL）提供了一个框架，在该框架中预测的是类别上的分布而非单一类别，旨在解决标注数据中的模糊性问题。现有 LDL 研究主要聚焦于点估计任务，即在给定样本条件下在概率单纯形中寻找最优分布。在本文中，我们提出了一种新颖的标签分布学习模型 SNEFY-LDL，通过释放近期提出的平方神经网络族（SNEFY）——一类可处理概率模型——的表达能力，来估计单纯形上所有可能标签分布的概率分布。作为对拟合模型的总结，我们推导了给定样本条件下的闭式标签分布均值、方差和协方差，可用于预测真实标签分布、构建标签分布置信区间以及衡量不同标签之间的相关性。此外，还可以从建模的概率密度函数中获取更多关于标签分布预测不确定性的信息。我们在共形预测、主动学习和集成学习上进行了大量实验，验证了 SNEFY-LDL 在 LDL 不确定性量化方面的显著有效性。本文的源代码位于 https://github.com/daokunzhang/SNEFY-LDL。
引用
@article{arxiv.2412.07324,
title = {Label Distribution Learning using the Squared Neural Family on the Probability Simplex},
author = {Daokun Zhang and Russell Tsuchida and Dino Sejdinovic},
journal= {arXiv preprint arXiv:2412.07324},
year = {2025}
}
备注
Accepted by 2025 The Conference on Uncertainty in Artificial Intelligence (UAI)