YuJianhui ; ZhangChaoyi ; WangHeng ; ZhangDingxin ; SongYang ; XiangTiange ; LiuDongnan ; CaiWeidong

摘要
近年来,通用点云在不同任务中受到了越来越多的关注,最近提出了基于Transformer的网络用于点云分析。然而,对于在疾病检测和治疗中具有重要意义的医学点云,相关研究却相对较少。在本工作中,我们提出了一种专门针对医学点云的注意力模型,即3D医学点Transformer(3DMedPT),以检查复杂的生物结构。通过增强上下文信息并在查询时汇总局部响应,我们的注意力模块能够捕捉局部上下文和全局内容特征的交互。然而,医学数据训练样本不足可能导致特征学习效果不佳,因此我们应用位置嵌入来学习精确的局部几何结构,并采用多图推理(Multi-Graph Reasoning, MGR)来检查通道图上的全局知识传播,从而丰富特征表示。在IntrA数据集上进行的实验证明了3DMedPT的优势,在分类和分割任务中取得了最佳结果。此外,我们在通用3D点云基准数据集ModelNet40和ShapeNetPart上的实验进一步验证了该方法的良好泛化能力。代码已公开发布。
代码仓库
crane-papercode/3dmedpt
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| 3d-part-segmentation-on-intra | 3DMedPT | DSC (A): 89.71 DSC (V): 97.29 IoU (A): 82.39 IoU (V): 94.82 |
| 3d-point-cloud-classification-on-intra | 3DMedPT | F1 score (5-fold): 0.936 |
| 3d-point-cloud-classification-on-modelnet40 | 3DMedPT | Number of params: 1.54M Overall Accuracy: 93.4 |