4 个月前

SiamixFormer:一种全变换器Siamese网络,具有时间融合功能,用于准确的建筑物检测和变化检测在双时相遥感图像中

SiamixFormer:一种全变换器Siamese网络,具有时间融合功能,用于准确的建筑物检测和变化检测在双时相遥感图像中

摘要

利用遥感图像进行建筑物检测和变化检测可以辅助城市规划和救援工作。此外,这些技术还可以用于自然灾害后的建筑物损毁评估。目前,大多数现有的建筑物检测模型仅使用一张图像(灾前图像)来检测建筑物。这是因为灾后图像中存在损毁的建筑物,可能会降低模型的性能。在本文中,我们提出了一种称为SiamixFormer的孪生模型,该模型以灾前和灾后图像作为输入。我们的模型包含两个编码器,并采用了分层变压器架构。每个编码器阶段的输出都会被送入一个时间变压器进行特征融合,其中查询向量从灾前图像生成,而键值对从灾后图像生成。在此过程中,时间特征也被纳入了特征融合之中。使用时间变压器进行特征融合的另一个优势在于,它们能够比卷积神经网络(CNNs)更好地保持由变压器编码器生成的大感受野。最后,时间变压器在每个阶段的输出会被送入一个简单的多层感知机(MLP)解码器。SiamixFormer模型在xBD和WHU数据集上进行了建筑物检测评估,在LEVIR-CD和CDD数据集上进行了变化检测评估,并且其性能超过了现有最先进的方法。

基准测试

基准方法指标
building-change-detection-for-remote-sensingSiamixFormer-5
F1: 91.58
IoU: 85.38
building-change-detection-for-remote-sensingSiamixFormer-3
F1: 90.54
IoU: 83.84
building-change-detection-for-remote-sensingSiamixFormer-2-
building-change-detection-for-remote-sensingSiamixFormer-0
F1: 89.47
IoU: 82.29
building-change-detection-for-remote-sensingSiamixFormer-4
F1: 90.70
IoU: 84.05
building-change-detection-for-remote-sensingSiamixFormer-1
F1: 89.29
IoU: 82.03
change-detection-for-remote-sensing-images-onSiamixFormer-1
F1-Score: 0.9278
IoU: 87
change-detection-for-remote-sensing-images-onSiamixFormer-0
F1-Score: 0.9205
IoU: 85.81
change-detection-for-remote-sensing-images-onSiamixFormer-3
F1-Score: 0.9648
IoU: 93.33
change-detection-for-remote-sensing-images-onSiamixFormer-2
F1-Score: 0.9552
IoU: 91.62
change-detection-for-remote-sensing-images-onSiamixFormer-5
F1-Score: 0.9713
IoU: 94.51
change-detection-for-remote-sensing-images-onSiamixFormer-4
F1-Score: 0.9685
IoU: 94
extracting-buildings-in-remote-sensing-imagesSiamixFormer-0
F1: 86.46
IoU: 76.43
extracting-buildings-in-remote-sensing-imagesSiamixFormer-3
F1: 88.3
IoU: 79.06
extracting-buildings-in-remote-sensing-imagesSiamixFormer-4
F1: 88.35
IoU: 79.14
extracting-buildings-in-remote-sensing-imagesSiamixFormer-5
F1: 88.43
IoU: 79.26
extracting-buildings-in-remote-sensing-imagesSiamixFormer-1
F1: 87.23
IoU: 77.35
extracting-buildings-in-remote-sensing-imagesSiamixFormer-2
F1: 88.05
IoU: 78.66
extracting-buildings-in-remote-sensing-images-2SiamixFormer-5
F1: 96.69
IoU: 93.58
extracting-buildings-in-remote-sensing-images-2SiamixFormer-1
F1: 96.01
IoU: 92.31
extracting-buildings-in-remote-sensing-images-2SiamixFormer-0
F1: 95.53
IoU: 91.43
extracting-buildings-in-remote-sensing-images-2SiamixFormer-4
F1: 96.59
IoU: 93.4
extracting-buildings-in-remote-sensing-images-2SiamixFormer-2
F1: 96.22
IoU: 92.7
extracting-buildings-in-remote-sensing-images-2SiamixFormer-3
F1: 96.32
IoU: 92.9

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
SiamixFormer:一种全变换器Siamese网络,具有时间融合功能,用于准确的建筑物检测和变化检测在双时相遥感图像中 | 论文 | HyperAI超神经