3 个月前

SceneGraphFusion:基于RGB-D序列的增量式3D场景图预测

SceneGraphFusion:基于RGB-D序列的增量式3D场景图预测

摘要

场景图(scene graphs)是一种紧凑且显式的表示方法,在多种二维场景理解任务中取得了成功应用。本文提出一种方法,能够从一系列RGB-D帧中,逐步构建三维环境下的语义场景图。为此,我们利用图神经网络(graph neural network)对原始场景组件的PointNet特征进行聚合。此外,我们还提出了一种新型注意力机制,特别适用于此类增量重建场景中常见的部分缺失或不完整图结构数据。尽管本方法主要针对场景的子地图进行设计,但我们证明其同样可有效应用于完整的三维场景。实验结果表明,该方法在3D场景图预测任务上的性能显著优于现有方法,其精度与当前先进的3D语义分割和全景分割方法相当,同时运行速度可达35 Hz。

代码仓库

ShunChengWu/3DSSG
官方
pytorch
GitHub 中提及
ShunChengWu/SceneGraphFusion
官方
GitHub 中提及

基准测试

基准方法指标
3d-object-classification-on-3r-scan-13DSSG [Wald2020_3dssg]
Top-10 Accuracy: 0.78
Top-5 Accuracy: 0.68
3d-object-classification-on-3r-scan-1SceneGraphFusion
Top-10 Accuracy: 0.8
Top-5 Accuracy: 0.7
panoptic-segmentation-on-scannetSceneGraphFusion
PQ: 31.5
PQ_st: 43.4
PQ_th: 30.2
panoptic-segmentation-on-scannetv2SceneGraphFusion (NN mapping)
PQ: 31.5
Params (M): 2.9
RQ: 42.2
SQ: 72.9
scene-graph-generation-on-3r-scan-1SceneGraphFusion
Top-5 Accuracy: 0.87
scene-graph-generation-on-3r-scan-13DSSG [Wald2020_3dssg]
Top-5 Accuracy: 0.66

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
SceneGraphFusion:基于RGB-D序列的增量式3D场景图预测 | 论文 | HyperAI超神经