中文

文本到图像定制导航:从 LyCORIS 微调到模型评估

计算机视觉与模式识别 2024-03-12 v2 人工智能 图形学 机器学习

摘要

文本到图像生成模型因能从文本提示生成高保真图像而备受关注。其中,Stable Diffusion 作为这一快速发展领域的领先开源模型脱颖而出。然而,这些模型的微调复杂性带来了从新方法集成到系统评估的多重挑战。针对这些问题,本文引入 LyCORIS(Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion)[https://github.com/KohakuBlueleaf/LyCORIS],一个为 Stable Diffusion 提供多种微调方法的开源库。此外,我们提出一个全面框架,用于对不同微调技术进行系统评估。该框架采用多样化指标套件,并深入考察微调的多个方面,包括超参数调整以及跨不同概念类别的各类提示类型评估。通过这一综合方法,我们的工作为微调参数的细微影响提供了重要见解,弥合了前沿研究与实际应用之间的差距。

关键词

引用

@article{arxiv.2309.14859,
  title  = {Navigating Text-To-Image Customization: From LyCORIS Fine-Tuning to Model Evaluation},
  author = {Shih-Ying Yeh and Yu-Guan Hsieh and Zhidong Gao and Bernard B W Yang and Giyeong Oh and Yanmin Gong},
  journal= {arXiv preprint arXiv:2309.14859},
  year   = {2024}
}

备注

In International Conference on Learning Representations 12 (ICLR 2024) [79 pages, 54 figures, 7 tables]