4 个月前

CIPS-3D:基于条件独立像素合成的3D感知生成对抗网络生成器

CIPS-3D:基于条件独立像素合成的3D感知生成对抗网络生成器

摘要

基于风格的生成对抗网络(StyleGAN)架构在生成高质量图像方面取得了最先进的成果,但其对相机姿态缺乏明确和精确的控制。最近提出的基于神经辐射场(NeRF)的生成对抗网络在3D感知生成器方面取得了显著进展,但它们尚无法生成高质量的图像。本文介绍了CIPS-3D,这是一种结合了浅层NeRF网络和深层隐式神经表示(INR)网络的基于风格的3D感知生成器。该生成器独立合成每个像素值,无需任何空间卷积或上采样操作。此外,我们诊断了镜像对称问题,这表明存在次优解,并通过引入辅助判别器来解决这一问题。CIPS-3D在原始单视图图像上进行训练,在FFHQ数据集上以256×256分辨率生成的图像达到了令人印象深刻的FID分数6.97,创下了3D感知图像合成的新纪录。我们还展示了CIPS-3D在迁移学习和3D感知面部风格化等方面的几个有趣方向。为了更好地展示合成结果,我们建议读者查看我们的GitHub项目:https://github.com/PeterouZh/CIPS-3D

代码仓库

PeterouZh/CIPS-3D
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
3d-aware-image-synthesis-on-ffhq-256-x-256GIRAFFE
FID: 63.33
KID: 50.94
3d-aware-image-synthesis-on-ffhq-256-x-256StyleNeRF
FID: 8.00
KID: 3.70
3d-aware-image-synthesis-on-ffhq-256-x-256pi-GAN
FID: 34.56
KID: 26.58
3d-aware-image-synthesis-on-ffhq-256-x-256CIPS-3D
FID: 6.97
KID: 2.87

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
CIPS-3D:基于条件独立像素合成的3D感知生成对抗网络生成器 | 论文 | HyperAI超神经