通过神经问答中的贝叶斯不确定性实现伦理 AI
计算与语言
2025-12-22 v1
摘要
我们探讨了将贝叶斯推理作为神经网络问答中量化不确定性的手段。我们以多层感知器在 Iris 数据集上为例，展示了后验推理如何传递对预测置信度的表达。随后我们将其扩展到语言模型，首先应用于冻结头部，最后应用于 LoRA 调整的 transformer，在 CommonsenseQA 数据集上进行评估。我们不追求最先进的准确率，而是将拉普拉斯近似与最大后验 (MAP) 估计进行比较，以突出不确定性校准和选择性预测。这使得模型在置信度较低时可选择放弃预测。一种“我不知道”响应不仅改善了可解释性，也说明了贝叶斯方法如何有助于更负责任、更伦理地部署神经问答系统。
引用
@article{arxiv.2512.17677,
title = {Toward Ethical AI Through Bayesian Uncertainty in Neural Question Answering},
author = {Riccardo Di Sipio},
journal= {arXiv preprint arXiv:2512.17677},
year = {2025}
}
备注
14 pages, 8 figures,