回归中主动学习的学习损失方法的数学分析
计算机视觉与模式识别
2021-09-06 v1 机器学习
摘要
主动学习因数据高效而在工业中持续重要。它不仅在受限预算下具有成本效益，模型的持续精炼还可在模型开发阶段早期检测并解决失效场景。通过模型识别并修复失效至关重要，因为工业应用要求底层模型在所有可预见的用例中准确执行。一种专通过失效识别持续精炼模型的流行前沿技术是学习损失（Learning Loss）。尽管简单优雅，该方法却是经验驱动的。我们的论文为学习损失建立了基础，使我们能提出一种称为 LearningLoss++ 的新修正。我们表明梯度在解释学习损失如何工作中至关重要，并对学习损失与 LearningLoss++ 的梯度进行了严谨分析与比较。我们还提出了一种在不同尺度上结合特征以预测损失的卷积架构。我们在人体姿态估计任务（使用 MPII 和 LSP 数据集）上验证了用于回归的 LearningLoss++，如同在学习损失中所做。我们表明 LearningLoss++ 在识别模型可能表现不佳的场景上优于原方法，这在模型精炼时转化为开放世界中的可靠性能。
引用
@article{arxiv.2104.09315,
title = {A Mathematical Analysis of Learning Loss for Active Learning in Regression},
author = {Megh Shukla and Shuaib Ahmed},
journal= {arXiv preprint arXiv:2104.09315},
year = {2021}
}
备注
Accepted: 2021 IEEE CVPR Workshop on Fair, Data Efficient and Trusted Computer Vision