
摘要
高速运动的物体在相机拍摄时会呈现显著的模糊现象,尤其当物体具有复杂形状或纹理时,这种模糊更加难以辨识。在这种情况下,传统方法甚至人类观察者都难以恢复物体的真实外观与运动状态。为此,我们提出一种新方法:在给定一张包含估计背景的模糊图像的前提下,该方法能够输出物体在一系列子帧中的清晰外观与位置信息,仿佛由高速相机捕捉一般(即实现时间超分辨率)。所提出的生成模型将模糊物体图像嵌入到潜在空间表示中,分离背景信息,并重建出清晰的外观。受图像形成模型的启发,我们设计了新颖的自监督损失函数项,有效提升了模型性能,并展现出良好的泛化能力。所提出的DeFMO方法在复杂合成数据集上进行训练,但在多个真实世界数据集上均表现出优异的性能。实验结果表明,DeFMO显著优于现有最先进方法,能够生成高质量的时间超分辨率图像帧。
代码仓库
kornia/kornia
pytorch
rozumden/DeFMO
官方
pytorch
GitHub 中提及
rharish101/DeFMO
pytorch
GitHub 中提及
rozumden/ShapeFromBlur
pytorch
GitHub 中提及
rozumden/fmo-deblurring-benchmark
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| video-super-resolution-on-falling-objects | DeFMO | PSNR: 26.83 SSIM: 0.753 TIoU: 0.684 |
| video-super-resolution-on-tbd | DeFMO | PSNR: 25.57 SSIM: 0.602 TIoU: 0.550 |
| video-super-resolution-on-tbd-3d | DeFMO | PSNR: 26.23 SSIM: 0.699 TIoU: 0.879 |