4 个月前

KDAS:基于注意力监督框架的息肉分割知识蒸馏方法

KDAS:基于注意力监督框架的息肉分割知识蒸馏方法

摘要

息肉分割是医学影像领域的一个有争议的问题,已提出多种方法以提高分割掩模的质量。尽管当前最先进的技术取得了令人印象深刻的结果,但这些模型的规模和计算成本给实际工业应用带来了挑战。为了解决这一问题,我们提出了KDAS,这是一种结合了注意力监督的知识蒸馏框架,以及我们设计的对称引导模块(Symmetrical Guiding Module)。该框架旨在通过减少参数量来促进紧凑的学生模型的学习,使其能够继承教师模型的优势,并通过对称引导模块缓解教师特征与学生特征之间的不一致性,这是知识蒸馏中常见的难题。通过大量实验验证,我们的紧凑模型展示了其强大的性能,在息肉分割方面达到了与最先进方法相当的结果,为在医学影像领域创建高精度的紧凑模型提供了一种有前景的方法。该框架的实现代码可在https://github.com/huyquoctrinh/KDAS 获取。

代码仓库

huyquoctrinh/kdas
官方
pytorch
GitHub 中提及
huyquoctrinh/kdas3
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
medical-image-segmentation-on-cvc-clinicdbKDAS
mIoU: 0.872
mean Dice: 0.925
medical-image-segmentation-on-cvc-colondbKDAS
Average MAE: 0.032
mIoU: 0.679
mean Dice: 0.759
medical-image-segmentation-on-kvasir-segKDAS
Average MAE: 0.027
mIoU: 0.848
mean Dice: 0.913
polyp-segmentation-on-kvasir-segKDAS
mDice: 0.913
mIoU: 0.848

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
KDAS:基于注意力监督框架的息肉分割知识蒸馏方法 | 论文 | HyperAI超神经