摘要
本文针对自动驾驶车辆的街景图像语义分割问题,提出了一种基于新型RGB-热红外(RGB-Thermal)数据集的新方法,该数据集亦在本文中首次引入。随着自动驾驶车辆研究的不断深入,语义分割技术在自动驾驶系统中的应用日益受到关注。然而,当前关于语义分割的多数研究主要集中于夜间或恶劣天气条件下获取的RGB图像,且多数方法仅关注提升分割性能,忽视了计算效率与实时性需求。上述问题促使我们提出一种新型的卷积神经网络架构,用于多光谱图像的语义分割,能够在保证实时运行的同时维持较高的分割精度。为验证所提方法的有效性,我们构建了一个RGB-热红外融合数据集,将热成像与可见光图像进行配准与融合。实验结果表明,引入热红外信息后,语义分割的准确率显著提升。
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| semantic-segmentation-on-gamus | MFNet | mIoU: 52.73 |
| semantic-segmentation-on-syn-udtiri | MFNet | IoU: 87.70 |
| semantic-segmentation-on-synthetic-bathing | MFNet | mIoU: 87.25 |
| thermal-image-segmentation-on-kp-day-night | MFNet | mIoU: 24.0 |
| thermal-image-segmentation-on-mfn-dataset | MFNet | mIOU: 39.7 |
| thermal-image-segmentation-on-noisy-rs-rgb-t | MFNet | mIoU: 33.1 |
| thermal-image-segmentation-on-pst900 | MFNet | mIoU: 57.0 |