负责任地剪枝
计算机视觉与模式识别
2020-09-22 v1 计算机与社会
机器学习
摘要
无论在机器学习应用中如何具体定义公平性，对底层模型进行剪枝都会对其产生影响。我们调查并记录了在跨越 100K 余个图像分类模型、涉及近一百万个类别的剪枝过程中，跨任务和架构出现并加剧的不良每类性能不平衡现象。我们论证了在围绕神经网络剪枝的实际工程决策中，需要进行透明报告，包括偏差、公平性和包容性指标。为响应将对 AI 模型的定量评估做到群体感知的呼吁，我们提出神经网络剪枝作为一个切实的应用领域，其中精度-效率权衡对代表性不足或离群群体的不成比例影响在历史上一直被忽视。我们提供了一个简单的、基于帕累托的框架，用于将公平性考量插入基于价值的工作点选择过程，并重新评估剪枝技术的选择。
引用
@article{arxiv.2009.09936,
title = {Prune Responsibly},
author = {Michela Paganini},
journal= {arXiv preprint arXiv:2009.09936},
year = {2020}
}