摘要

近期在点云领域的自监督学习方法取得了显著进展，但这些方法通常存在一些缺点，包括较长的预训练时间、需要在输入空间进行重建或需要额外模态。为了解决这些问题，我们提出了一种专门针对点云数据设计的联合嵌入预测架构——Point-JEPA。为此，我们引入了一个排序器，该排序器对点云补丁嵌入进行排序，以便在目标和上下文选择过程中高效地计算和利用它们之间的邻近关系。排序器还允许在上下文和目标选择之间共享补丁嵌入的邻近关系计算，进一步提高了效率。实验结果表明，我们的方法在避免输入空间重建或额外模态的情况下，仍能取得与现有最先进方法相当的结果。