文本到图像定制导航:从 LyCORIS 微调到模型评估
计算机视觉与模式识别
2024-03-12 v2 人工智能
图形学
机器学习
摘要
文本到图像生成模型因能从文本提示生成高保真图像而备受关注。其中,Stable Diffusion 作为这一快速发展领域的领先开源模型脱颖而出。然而,这些模型的微调复杂性带来了从新方法集成到系统评估的多重挑战。针对这些问题,本文引入 LyCORIS(Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion)[https://github.com/KohakuBlueleaf/LyCORIS],一个为 Stable Diffusion 提供多种微调方法的开源库。此外,我们提出一个全面框架,用于对不同微调技术进行系统评估。该框架采用多样化指标套件,并深入考察微调的多个方面,包括超参数调整以及跨不同概念类别的各类提示类型评估。通过这一综合方法,我们的工作为微调参数的细微影响提供了重要见解,弥合了前沿研究与实际应用之间的差距。
引用
@article{arxiv.2309.14859,
title = {Navigating Text-To-Image Customization: From LyCORIS Fine-Tuning to Model Evaluation},
author = {Shih-Ying Yeh and Yu-Guan Hsieh and Zhidong Gao and Bernard B W Yang and Giyeong Oh and Yanmin Gong},
journal= {arXiv preprint arXiv:2309.14859},
year = {2024}
}
备注
In International Conference on Learning Representations 12 (ICLR 2024) [79 pages, 54 figures, 7 tables]