面向移动端的大规模扩散模型压缩
机器学习
2023-07-04 v1 人工智能
摘要
扩散模型的出现极大拓展了高保真图像合成的范围，在实用部署与学术研究上均取得显著进展。随着该模型在各种现实应用中的积极采用，对端侧部署的需求大幅增长。然而，由于计算和内存资源有限且因设备而异，将参数量超过十亿的 Stable Diffusion 等大型扩散模型部署到移动设备面临独特挑战。本文给出在支持 iOS 与 Android 设备的 TensorFlow Lite 框架下于移动设备部署 Stable Diffusion 的挑战与对策。所得的 Mobile Stable Diffusion 在搭载移动 GPU 的 Android 设备上生成 512x512 图像时推理延迟小于 7 秒。
引用
@article{arxiv.2307.01193,
title = {Squeezing Large-Scale Diffusion Models for Mobile},
author = {Jiwoong Choi and Minkyu Kim and Daehyun Ahn and Taesu Kim and Yulhwa Kim and Dongwon Jo and Hyesung Jeon and Jae-Joon Kim and Hyungjun Kim},
journal= {arXiv preprint arXiv:2307.01193},
year = {2023}
}
备注
7 pages, 8 figures, ICML 2023 Workshop on Challenges in Deployable Generative AI