基于大规模无配对学习的高保真虚拟试穿
计算机视觉与模式识别
2024-11-05 v1
摘要
虚拟试穿(VTON)将目标服装图像转移到参考人物身上,其中服装保真度是下游电子商务应用的关键要求。然而,现有的VTON方法由于穿衣风格的高多样性(例如衣服被裤子遮挡或因姿势而变形)与有限的配对训练数据之间的冲突,在高保真试穿方面仍有所不足。在这项工作中,我们提出了一个新型框架**增强虚拟试穿(BVTON)**,利用大规模无配对学习实现高保真试穿。我们的关键洞察是,可以从大量可用的时尚图像中可靠地构建伪试穿配对。具体而言,**1)** 我们首先提出了一种组合规范化流,将穿在模特身上的服装映射为伪店内的服装,称为规范代理。每个服装部件(袖子、躯干)被反向变形为店内风格的形状,以组合方式构建规范代理。**2)** 接下来,我们设计了一个分层掩码生成模块,通过在规范代理上训练来生成精确的语义布局。我们用推导出的规范代理替换传统流水线中的店内服装,以增强训练过程。**3)** 最后,我们通过构建随机错位的穿在模特身上的服装的伪训练配对,提出了一个无配对试穿合成器,可以生成复杂的皮肤纹理和服装边界。在高分辨率()数据集上的大量实验证明了我们的方法在定性和定量上均优于最先进的方法。值得注意的是,BVTON展现出对各种穿衣风格和数据源的良好泛化性和可扩展性。
引用
@article{arxiv.2411.01593,
title = {High-Fidelity Virtual Try-on with Large-Scale Unpaired Learning},
author = {Han Yang and Yanlong Zang and Ziwei Liu},
journal= {arXiv preprint arXiv:2411.01593},
year = {2024}
}
备注
Technical Report