3 个月前

基于物理引导的ISO相关传感器噪声建模用于极端低光照摄影

基于物理引导的ISO相关传感器噪声建模用于极端低光照摄影

摘要

尽管深度神经网络在众多视觉任务中取得了惊人的性能,但现有的基于学习的传感器噪声建模方法在极端低光照条件下的噪声建模方面,仍远逊于基于物理模型的解决方案。为充分挖掘基于学习的传感器噪声建模潜力,本文深入研究了典型成像过程中噪声的形成机制,并提出了一种新型的物理引导型、ISO依赖的传感器噪声建模方法。具体而言,我们构建了一个基于归一化流(normalizing flow)的框架,用以表征CMOS图像传感器复杂的噪声特性。在物理模型的指导之下,噪声模型的各个组成部分分别对应于特定类型的噪声。此外,本方法还显式考虑了噪声模型中的ISO依赖性,这一点是现有基于学习的方法尚未充分重视的。为训练所提出的噪声模型,我们进一步采集了一个新的数据集,包含成对的含噪-无噪图像,以及覆盖广泛ISO设置的均匀光照场(flat-field)和偏置(bias)图像帧。与现有方法相比,所提出的噪声模型得益于其灵活的结构设计与精确的建模能力,能够显著提升极端低光照场景下的去噪性能。相关源代码与所收集的数据集将公开发布,供学术界使用。

基准测试

基准方法指标
image-denoising-on-eld-sonya7s2-x100LLD*
PSNR (Raw): 46.74
SSIM (Raw): 0.986
image-denoising-on-eld-sonya7s2-x100LLD
PSNR (Raw): 45.61
SSIM (Raw): 0.977
image-denoising-on-eld-sonya7s2-x200LLD
PSNR (Raw): 43.84
SSIM (Raw): 0.959
image-denoising-on-eld-sonya7s2-x200LLD*
PSNR (Raw): 44.95
SSIM (Raw): 0.977
image-denoising-on-sid-sonya7s2-x250LLD*
PSNR (Raw): 41.02
SSIM (Raw): 0.948
image-denoising-on-sid-sonya7s2-x250LLD
PSNR (Raw): 39.76
SSIM (Raw): 0.933
image-denoising-on-sid-x100LLD
PSNR (Raw): 42.10
SSIM: 0.955
image-denoising-on-sid-x100LLD*
PSNR (Raw): 43.36
SSIM: 0.961
image-denoising-on-sid-x300LLD*
PSNR (Raw): 37.80
SSIM: 0.935
image-denoising-on-sid-x300LLD
PSNR (Raw): 36.76
SSIM: 0.912

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于物理引导的ISO相关传感器噪声建模用于极端低光照摄影 | 论文 | HyperAI超神经