实践中的模型压缩：来自创建端侧机器学习经验的从业者的经验教训
人机交互
2024-04-05 v2 人工智能
机器学习
摘要
端侧机器学习（ML）有望通过将 ML 计算移至日常个人设备上来改善隐私性、响应速度以及新型智能用户体验的普及。然而，当今的大型 ML 模型必须经过大幅压缩才能在端侧高效运行，这一障碍需要深厚但目前仍属小众的专业知识。为了让更广泛的人本 ML 社区参与到端侧 ML 体验中，我们呈现了一项对苹果公司 30 位专注于生产高效模型的专家的访谈研究结果。我们整理了专家通过在不同硬件平台上进行模型压缩的实践经验所发展起来的隐性知识。我们的发现提供了先前工作中缺失的务实考量，涵盖设计过程、权衡取舍以及创建高效模型所涉及的技术策略。最后，我们提炼出针对工具设计的建议，以帮助降低这项工作的难度，并使端侧 ML 得到更广泛的实践。
引用
@article{arxiv.2310.04621,
title = {Model Compression in Practice: Lessons Learned from Practitioners Creating On-device Machine Learning Experiences},
author = {Fred Hohman and Mary Beth Kery and Donghao Ren and Dominik Moritz},
journal= {arXiv preprint arXiv:2310.04621},
year = {2024}
}
备注
Proceedings of the 2024 ACM CHI Conference on Human Factors in Computing Systems