
摘要
点云(PCD)异常检测正逐渐成为一个有前景的研究领域。本研究旨在通过结合手工设计的PCD描述符和强大的预训练二维神经网络来提高PCD异常检测的性能。为此,本研究提出了一种互补伪多模态特征(Complementary Pseudo Multimodal Feature, CPMF),该特征利用手工设计的PCD描述符在三维模态中融合局部几何信息,并利用预训练的二维神经网络在生成的伪二维模态中提取全局语义信息。为了提取全局语义信息,CPMF将原始点云投影到包含多视角图像的伪二维模态中。这些图像被输入到预训练的二维神经网络中,以提取具有信息量的二维模态特征。三维和二维模态特征被聚合以获得用于PCD异常检测的CPMF。大量实验表明,二维和三维模态特征之间存在互补能力,且CPMF的有效性得到了验证,在MVTec3D基准测试中达到了95.15%的图像级AU-ROC和92.93%的像素级PRO。代码可在https://github.com/caoyunkang/CPMF 获取。
代码仓库
m-3lab/real3d-ad
pytorch
GitHub 中提及
caoyunkang/CPMF
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| 3d-anomaly-detection-and-segmentation-on | CPMF (2D) | Detection AUROC: 0.8918 Segmentation AUPRO: 0.9145 Segmentation AUROC: 0.9730 |
| 3d-anomaly-detection-and-segmentation-on | CPMF (2D+3D) | Detection AUROC: 0.9515 Segmentation AUPRO: 0.9293 Segmentation AUROC: 0.9781 |
| 3d-anomaly-detection-and-segmentation-on | CPMF (3D) | Detection AUROC: 0.8304 Segmentation AUPRO: 0.9230 Segmentation AUROC: 0.9780 |
| depth-anomaly-detection-and-segmentation-on | CPMF (2D) | Detection AUROC: 0.8918 Segmentation AUPRO: 0.9145 Segmentation AUROC: 0.9730 |
| depth-anomaly-detection-and-segmentation-on | CPMF (2D+3D) | Detection AUROC: 0.9515 Segmentation AUPRO: 0.9293 Segmentation AUROC: 0.9781 |
| depth-anomaly-detection-and-segmentation-on | CPMF (3D) | Detection AUROC: 0.8304 Segmentation AUPRO: 0.9230 Segmentation AUROC: 0.9780 |