面向可靠深度学习的数据感知训练质量监控与认证
机器学习
2024-10-16 v1
摘要
深度学习模型通过线性与非线性变换的层级结构精准捕获复杂表征，但其固有的黑箱特性及多模态训练图景，使得在高风险应用场景中关于可靠性、鲁棒性与安全性的关切至关重要。为此，我们提出YES训练界限（YES training bounds）——一种新型框架，用于实时、数据感知式的神经网络训练认证与监控。YES界限评估数据利用效率与优化动力学，为评估进展与检测次优行为提供有效工具。实验表明，YES界限能提供超越常规局部优化视角的洞见，例如识别训练损失陷入次优区域时的现象。该方法在合成数据与真实数据（包括图像去噪任务）上均经验证，证明其在认证训练质量、引导调整以提升模型性能方面具有效能。通过将这些界限集成于基于颜色编码的云端监控系统，我们提供了一种强大工具，用于实时评估，为深度学习训练质量保障树立新标准。
引用
@article{arxiv.2410.10984,
title = {Data-Aware Training Quality Monitoring and Certification for Reliable Deep Learning},
author = {Farhang Yeganegi and Arian Eamaz and Mojtaba Soltanalian},
journal= {arXiv preprint arXiv:2410.10984},
year = {2024}
}