3 个月前

NeRFLiX:通过学习退化驱动的视点间混合器实现高质量神经视图合成

NeRFLiX:通过学习退化驱动的视点间混合器实现高质量神经视图合成

摘要

神经辐射场(NeRF)在新视角合成任务中取得了显著成功。然而,在真实场景中,现有基于NeRF的方法仍难以从源图像中恢复出高质量的细节,这主要归因于潜在的标定信息不准确以及场景表示的偏差。即便使用高质量的训练图像,NeRF模型生成的新视角图像仍普遍存在明显的渲染伪影,如噪声、模糊等问题。为提升基于NeRF方法的合成质量,本文提出NeRFLiX——一种通用的、与NeRF无关的图像恢复范式,其核心是通过学习一种由退化驱动的跨视角混合机制实现优化。具体而言,我们设计了一种类NeRF的退化建模方法,并构建了大规模训练数据集,使得现有深度神经网络能够有效消除NeRF固有的渲染伪影。此外,除退化去除之外,我们进一步提出一种跨视角聚合框架,能够融合具有高度相关性的高质量训练图像,显著提升前沿NeRF模型的性能,生成高度逼真的合成视图。

代码仓库

基准测试

基准方法指标
novel-view-synthesis-on-llffPlenoxels + NeRFLiX
LPIPS: 0.156
PSNR: 26.9
SSIM: 0.864
novel-view-synthesis-on-llffTensoRF + NeRFLiX
LPIPS: 0.149
PSNR: 27.39
SSIM: 0.867
novel-view-synthesis-on-tanks-and-templesTensoRF + NeRFLiX
PSNR: 28.94
SSIM: 0.93
novel-view-synthesis-on-tanks-and-templesPlenoxels + NeRFLiX
PSNR: 28.61
novel-view-synthesis-on-tanks-and-templesDIVeR + NeRFLiX
SSIM: 0.924

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
NeRFLiX:通过学习退化驱动的视点间混合器实现高质量神经视图合成 | 论文 | HyperAI超神经