错误概率矩阵：某些类别的误分类概率更高
机器学习
2024-08-14 v3
摘要
本研究引入了错误概率矩阵(MLM)作为一种新型工具，用于量化神经网络在分布迁移下的预测可靠性。通过利用softmax输出和聚类技术来衡量训练神经网络预测与类质心之间的距离，来获得MLM。通过分析这些距离，MLM提供了关于模型误分类倾向的全面视图，使决策者能够识别最常见和最关键的错误来源。MLM允许对模型改进进行优先排序，并基于可接受的风险水平建立决策阈值。该方法在使用卷积神经网络(CNN)和用于模拟分布迁移的扰动数据集对MNIST数据集进行评估。结果表明，MLM在评估预测可靠性方面有效，并突显了其在增强神经网络可解释性和风险缓解能力方面的潜力。本工作的意义超越了图像分类，正在用于自动驾驶汽车等自动化系统，以提高在复杂真实环境中决策的安全性和可靠性。
关键词
引用
@article{arxiv.2407.07818,
title = {The Misclassification Likelihood Matrix: Some Classes Are More Likely To Be Misclassified Than Others},
author = {Daniel Sikar and Artur Garcez and Robin Bloomfield and Tillman Weyde and Kaleem Peeroo and Naman Singh and Maeve Hutchinson and Dany Laksono and Mirela Reljan-Delaney},
journal= {arXiv preprint arXiv:2407.07818},
year = {2024}
}
备注
9 pages, 7 figures, 1 table