
摘要
我们提出了一种通用的图像重建方法,旨在仅从二值稀疏边缘和平坦颜色域中生成详细的图像。受绘画过程的启发,我们的基于生成对抗网络(Generative Adversarial Network, GAN)的框架包括三个阶段:模仿阶段(Imitation Phase)旨在初始化网络;生成阶段(Generating Phase)用于重建初步图像;此外,精炼阶段(Refinement Phase)用于将初步图像微调为最终输出,增加细节。该框架使我们的模型能够从稀疏的输入信息中生成丰富的高频细节。我们还探讨了从图像中隐式解耦风格潜在空间的缺陷,并证明了在我们的模型中显式的颜色域在可控性和可解释性方面表现更佳。在实验中,我们在重建逼真图像和将手绘草图转换为令人满意的画作方面取得了出色的结果。此外,在边缘到图像翻译领域,我们的模型PI-REC在真实感和准确性评估上均优于现有的最先进方法,无论是在定量还是定性评价上。
代码仓库
youyuge34/PI-REC
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| image-reconstruction-on-edge-to-handbags | PI-REC | FID: 0.069 HP: 57.10 LPIPS: 0.168 MMD: 0.112 |
| image-reconstruction-on-edge-to-shoes | PI-REC | FID: 0.015 HP: 62.30 LPIPS: 0.085 MMD: 0.081 |