4 个月前

NeFII:利用近场间接光照进行反射分解的逆向渲染

NeFII:利用近场间接光照进行反射分解的逆向渲染

摘要

逆向渲染方法旨在从多视角RGB图像中估计几何形状、材质和光照。为了实现更好的分解效果,近期的方法尝试通过球面高斯(Spherical Gaussians, SG)模型来表示不同材质反射的间接光照,然而这种方法往往会模糊高频反射细节。在本文中,我们提出了一种端到端的逆向渲染流水线,该流水线能够从多视角图像中分解出材质和光照,并考虑近场间接光照。简而言之,我们引入了基于蒙特卡洛采样的路径追踪技术,并将间接光照缓存为神经辐射,从而实现了一种物理真实且易于优化的逆向渲染方法。为了提高效率和实用性,我们利用SG表示平滑的环境光照,并应用重要性采样技术。为了监督未观察方向上的间接光照,我们开发了一种新的辐射一致性约束条件,该约束条件在隐式神经辐射与未观察光线的路径追踪结果之间建立联系,并与材质和光照的联合优化相结合,从而显著提升了分解性能。大量的实验表明,我们的方法在多个合成数据集和真实数据集上均优于现有最先进方法,特别是在互反射分解方面。我们的代码和数据可在https://woolseyyy.github.io/nefii/ 获取。

代码仓库

FuxiComputerVision/Nefii
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
image-relighting-on-stanford-orbInvRender
HDR-PSNR: 23.76
LPIPS: 0.046
SSIM: 0.970
inverse-rendering-on-stanford-orbInvRender
HDR-PSNR: 23.76
surface-normals-estimation-on-stanford-orbInvRender
Cosine Distance: 0.06

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
NeFII:利用近场间接光照进行反射分解的逆向渲染 | 论文 | HyperAI超神经