摘要

作为探索Transformer架构用于3D点云理解的开创性工作，Point Transformer在多个极具竞争力的基准测试中取得了令人瞩目的成果。本文中，我们深入分析了Point Transformer的局限性，并提出了一种功能更强大且高效的Point Transformer V2模型，其新颖的设计有效克服了先前方法的不足。具体而言，我们首次提出了分组向量注意力（group vector attention），其性能优于原有向量注意力机制。该方法融合了可学习权重编码与多头注意力的优势，提出了一种新颖的分组权重编码层，实现了高效且强大的分组向量注意力机制。此外，我们通过引入额外的位置编码乘子，进一步增强了注意力机制对位置信息的建模能力。同时，我们设计了新型且轻量级的基于划分的池化方法，显著提升了空间对齐效果，并实现了更高效的采样策略。大量实验表明，所提模型在性能上超越了其前代版本，并在多个具有挑战性的3D点云理解基准测试中达到了当前最优水平，包括ScanNet v2和S3DIS数据集上的3D点云分割任务，以及ModelNet40数据集上的3D点云分类任务。相关代码将开源，地址为：https://github.com/Gofinge/PointTransformerV2。