通过针对性误差校正提升模型安全性
人工智能
2026-05-05 v1 计算机视觉与模式识别
摘要
机器学习在关键应用中的广泛采用要求缓解高风险错误的技术。我们的方法利用双分类器 GBDT 管道区分常规类人错误与高风险非类人误分类。该框架在三个领域内评估：动物品种分类、皮肤皮肤瘤诊断(ISIC 2018)和前列腺组织病理学(SICAPv2)，演示出稳健的安全性改进。为解决实际部署 concerns，我们的实验结果确认该管道引入的推理延迟可忽略不计（动物数据集为 1.60%，ISIC 为 1.84%，SICAPv2 为 1.70%），同时在纠正精度方面超越传统最大类概率(MCP)基线。我们的保守性校正策略在 ISIC 中成功将危险非类人错误降低 34.1%，在 SICAPv2 中降低 12.57%，将超类诊断安全性提升至 90.41% 和 92.13%。这表明，安全关键可靠性可以在不昂贵模型重新训练的情况下显著提升。
引用
@article{arxiv.2605.02544,
title = {Improving Model Safety by Targeted Error Correction},
author = {Abolfazl Mohammadi-Seif and Ricardo Baeza-Yates},
journal= {arXiv preprint arXiv:2605.02544},
year = {2026}
}
备注
This work has been accepted for publication in the Proceedings of International Conference on Pattern Recognition (ICPR) 2026. The final published version should be cited