
摘要
光流估计中的特征扭曲(feature warping)是一项核心技术,然而在扭曲过程中由遮挡区域引起的歧义问题仍是尚未解决的关键难题。本文提出了一种非对称遮挡感知的特征匹配模块,该模块能够在特征扭曲后无需任何显式监督,即刻学习到一个粗略的遮挡掩码,用于过滤掉无用(被遮挡)的区域。所提出的模块可轻松集成至端到端网络架构中,在引入可忽略的计算开销的同时,显著提升模型性能。所学习得到的遮挡掩码还可进一步输入至后续具有双特征金字塔结构的网络级联中,从而实现当前最优的性能表现。在投稿时,我们提出的方法——MaskFlownet,在MPI Sintel、KITTI 2012 和 KITTI 2015 基准测试中均超越了所有已发表的光流估计方法。代码已开源,地址为:https://github.com/microsoft/MaskFlownet。
代码仓库
AMatusV/MaskFlownet-ROS
mxnet
GitHub 中提及
microsoft/MaskFlownet
官方
mxnet
GitHub 中提及
open-mmlab/mmflow
pytorch
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| optical-flow-estimation-on-kitti-2012 | MaskFlownet | Average End-Point Error: 1.1 |
| optical-flow-estimation-on-kitti-2012 | MaskFlownet-S | Average End-Point Error: 1.1 |
| optical-flow-estimation-on-kitti-2015 | MaskFlownet-S | Fl-all: 6.81 |
| optical-flow-estimation-on-kitti-2015 | MaskFlownet | Fl-all: 6.11 |
| optical-flow-estimation-on-kitti-2015-train | MaskFlowNet | F1-all: 23.1 |
| optical-flow-estimation-on-sintel-clean | MaskFlownet | Average End-Point Error: 2.52 |
| optical-flow-estimation-on-sintel-clean | MaskFlownet-S | Average End-Point Error: 2.77 |
| optical-flow-estimation-on-sintel-final | MaskFlownet | Average End-Point Error: 4.17 |
| optical-flow-estimation-on-sintel-final | MaskFlownet-S | Average End-Point Error: 4.38 |