3 个月前

基于畸变感知特征校正的视频语义分割

基于畸变感知特征校正的视频语义分割

摘要

近年来,视频语义分割研究日益活跃,这得益于图像语义分割技术的显著进展。然而,在实际应用中,对每一帧独立进行图像分割由于计算成本过高而难以接受。为解决这一问题,许多方法采用基于光流的特征传播机制,以复用前一帧的特征。然而,光流估计不可避免地存在误差,导致传播的特征发生畸变,进而影响分割性能。针对这一问题,本文提出了一种畸变感知的特征校正方法,通过修正畸变的传播特征,有效提升了视频语义分割的精度。具体而言,我们首先提出将特征空间中的畸变模式迁移至图像空间,并实现高效的畸变图预测。在此基础上,利用畸变图的引导,设计了特征校正模块(Feature Correction Module, FCM),对发生畸变区域的传播特征进行精准修正。所提方法在仅引入极低额外计算开销的前提下,显著提升了视频语义分割的准确性。在Cityscapes和CamVid两个主流数据集上的大量实验结果表明,本方法优于当前最先进的技术水平。

代码仓库

jfzhuang/DAVSS
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
semantic-segmentation-on-urbanlfDAVSS
mIoU (Real): 75.91
mIoU (Syn): 74.27

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于畸变感知特征校正的视频语义分割 | 论文 | HyperAI超神经