4 个月前

面向任务的部件感知全景分割通过联合对象-部件表示

面向任务的部件感知全景分割通过联合对象-部件表示

摘要

具有部件感知的全景分割(Part-aware Panoptic Segmentation, PPS)要求对图像中的每个前景对象和背景区域进行分割和分类,并且需要对前景对象内部的所有部件进行分割、分类并将其链接到所属的父对象。现有的方法通过分别执行对象级别的分割和部件级别的分割来解决PPS问题。然而,这些方法的部件级别预测并未与特定的父对象关联,因此其学习目标与PPS任务的目标不一致,这影响了PPS的性能。为了解决这一问题,并提高PPS预测的准确性,我们提出了一种任务对齐的部件感知全景分割方法(Task-Aligned Part-aware Panoptic Segmentation, TAPPS)。该方法使用一组共享查询来联合预测(a)对象级别的片段和(b)同一对象内的部件级别片段。因此,TAPPS学会了预测与特定父对象相关联的部件级别片段,使学习目标与任务目标保持一致,并允许TAPPS利用联合的对象-部件表示。通过实验,我们证明TAPPS显著优于分别预测对象和部件的方法,并取得了新的PPS最佳结果。

代码仓库

tue-mps/tapps
官方
pytorch

基准测试

基准方法指标
part-aware-panoptic-segmentation-onTAPPS (Swin-B, COCO pre-training)
PartPQ: 64.8
part-aware-panoptic-segmentation-on-pascalTAPPS (Swin-B, COCO pre-training)
PartPQ: 60.4

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
面向任务的部件感知全景分割通过联合对象-部件表示 | 论文 | HyperAI超神经