软标签学习与校准中人类与模型不确定性的评估
机器学习
2026-05-19 v1 人工智能
计算与语言
摘要
人类对齐 AI 的核心在于理解人类引导的标签相对于合成替代品的优势。尽管人类软标签通过捕捉不确定性改善了校准，但先前的研究将这些益处与对错误标注数据的隐式修正（众数偏移）混为一谈，掩盖了软标签的真实效应。我们在 MNIST 及其合成变体上对软标签学习进行了受控审查，通过重新标注子集来提取人类不确定性。通过将软标签监督与底层标签众数偏移解耦，我们表明，尽管人类软标签确实提供了准确性的提升，但其更大的价值在于作为一种正则化器，在困难样本上改善模型校准并促进不同训练运行间的稳定收敛。数据集制图表明，在人类软标签上训练的模型反映了人类的不确定性，而在合成标签上训练的模型则未能与人类对齐。总体而言，这项工作为人类-AI 不确定性对齐提供了一个诊断测试平台。
引用
@article{arxiv.2605.18648,
title = {An Assessment of Human vs. Model Uncertainty in Soft-Label Learning and Calibration},
author = {Maja Pavlovic and Silviu Paun and Massimo Poesio},
journal= {arXiv preprint arXiv:2605.18648},
year = {2026}
}