集成之智：提升深度学习模型的一致性
机器学习
2020-11-16 v1 人工智能
机器学习
摘要
深度学习分类器正在辅助人类进行决策，因此用户对这些模型的信任至关重要。信任通常取决于行为的稳定性。从 AI 模型的角度看，这意味着给定相同输入，用户期望得到相同输出，尤其对于正确输出，换言之即持续正确的输出。本文研究了已部署模型周期性重训练背景下的模型行为，其中连续代模型对同一输入所标注的正确标签可能不一致。我们形式化定义了学习模型的一致性与正确一致性。我们证明集成学习器的一致性与正确一致性不小于各单个学习器的平均一致性与平均正确一致性，且以一定概率可通过组合精度不低于集成组件学习器平均精度的学习器来提升正确一致性。为使用三个数据集和两种最先进的深度学习分类器验证该理论，我们还提出了一种高效的动态快照集成方法并展示了其价值。
引用
@article{arxiv.2011.06796,
title = {Wisdom of the Ensemble: Improving Consistency of Deep Learning Models},
author = {Lijing Wang and Dipanjan Ghosh and Maria Teresa Gonzalez Diaz and Ahmed Farahat and Mahbubul Alam and Chetan Gupta and Jiangzhuo Chen and Madhav Marathe},
journal= {arXiv preprint arXiv:2011.06796},
year = {2020}
}