3 个月前

通过时空分解实现点云视频的深层分层表征

通过时空分解实现点云视频的深层分层表征

摘要

在点云视频中,点的坐标具有不规则性和无序性,但点的时间戳则表现出规律性和有序性。传统的基于网格的视频处理网络无法直接用于建模原始点云视频。因此,本文提出一种基于点的网络,直接处理原始点云视频。首先,为保持点云视频的时空局部结构,我们设计了一种点管(point tube),该结构沿空间和时间维度覆盖局部范围。通过在逐层传递点特征时逐步对帧和点进行下采样,并随网络深度增加扩大空间半径,点管能够以时空分层的方式捕捉视频的结构特征。其次,为降低空间不规则性对时间建模的影响,我们在提取点管表征时将空间与时间进行解耦。具体而言,采用空间操作来捕获点管内各空间区域的局部结构,同时利用时间操作建模这些空间区域沿时间轴的动态变化。

基准测试

基准方法指标
3d-action-recognition-on-ntu-rgb-d-1PSTNet++
Cross Subject Accuracy: 91.4
Cross View Accuracy: 96.7

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
通过时空分解实现点云视频的深层分层表征 | 论文 | HyperAI超神经