3 个月前

基于双向缓冲区的实时流式视频去噪

基于双向缓冲区的实时流式视频去噪

摘要

视频流通过持续传输的方式进行分发,以节省存储成本和设备内存占用。为去除视频拍摄与传输过程中引入的噪声,通常在用户端设备上采用实时去噪算法。然而,基于滑动窗口的方法需将多个输入帧用于生成单个输出帧,计算效率较低。近期的多输出推理方法虽采用并行或循环框架传播双向时间特征,但要么在视频片段的时间边界处性能下降,要么无法实现在线推理。本文提出一种双向流式视频去噪(Bidirectional Streaming Video Denoising, BSVD)框架,能够在具备过去与未来时间感受野的前提下,实现高保真度的实时视频流去噪。尽管在MoViNet中双向时间融合难以适用于在线推理,但我们引入了一种新型的双向缓冲模块(Bidirectional Buffer Block)作为BSVD的核心组件,使其在流水线式推理过程中成为可能。此外,本方法结构简洁、灵活,适用于非盲去噪与盲去噪两种场景。我们在合成噪声和真实噪声数据上,对所提模型与多种前沿视频去噪方法进行了定性和定量对比,结果表明,本方法在重建保真度和运行效率方面均优于现有方法。相关源代码已公开,地址为:https://github.com/ChenyangQiQi/BSVD。

代码仓库

chenyangqiqi/bsvd
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
video-denoising-on-crvd-1BSVD (real-time)
PSNR (Raw): 44.39
PSNR (sRBG): 40.48
SSIM (Raw): 0.9894
SSIM (sRGB): 0.9820
video-denoising-on-davis-sigma40BSVD (real-time)
PSNR: 33.86
video-denoising-on-davis-sigma50BSVD (Real-time)
PSNR: 32.91
video-denoising-on-set8-sigma40BSVD (real-time)
PSNR: 30.97
video-denoising-on-set8-sigma50BSVD (real-time)
PSNR: 30.06

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于双向缓冲区的实时流式视频去噪 | 论文 | HyperAI超神经