3 个月前

基于新型单变量-成对Transformer的高效两阶段人-物体交互检测

基于新型单变量-成对Transformer的高效两阶段人-物体交互检测

摘要

视觉数据领域中Transformer模型的最新进展显著提升了识别与检测任务的性能。特别是,用可学习查询(learnable queries)替代区域提议(region proposals)的方法,催生了一类新的单阶段检测模型,其中以检测Transformer(DETR)为代表。此后,此类单阶段方法在人-物体交互(Human-Object Interaction, HOI)检测任务中占据主导地位。然而,这类单阶段HOI检测器的成功在很大程度上得益于Transformer强大的表征能力。我们发现,当使用相同的Transformer架构时,其双阶段对应模型不仅性能更优、内存效率更高,且训练时间仅为前者的极小部分。为此,本文提出一种双阶段检测器——单体-成对Transformer(Unary-Pairwise Transformer),该模型通过利用单体(unary)与成对(pairwise)两种表征来建模HOI关系。我们观察到,该Transformer网络中的单体与成对分支具有明确的功能分工:前者主要提升正样本的得分,后者则有效降低负样本的得分。我们在HICO-DET与V-COCO两个标准数据集上对所提方法进行了评估,结果显著优于当前最先进的方法。在推理阶段,采用ResNet50作为主干网络的模型在单张GPU上即可实现接近实时的运行速度。

代码仓库

fredzzhang/upt
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
human-object-interaction-detection-on-hicoUPT-R50
Time Per Frame (ms): 42
mAP: 31.66
human-object-interaction-detection-on-hicoUPT-R101
Time Per Frame (ms): 61
mAP: 32.31
human-object-interaction-detection-on-hicoUPT-R101-DC5
Time Per Frame (ms): 124
mAP: 32.62
human-object-interaction-detection-on-v-cocoUPT-R101
AP(S1): 60.7
AP(S2): 66.2
Time Per Frame(ms): 64
human-object-interaction-detection-on-v-cocoUPT-R50
AP(S1): 59.0
AP(S2): 64.5
Time Per Frame(ms): 43
human-object-interaction-detection-on-v-cocoUPT-R101-DC5
AP(S1): 61.3
AP(S2): 67.1
Time Per Frame(ms): 131

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于新型单变量-成对Transformer的高效两阶段人-物体交互检测 | 论文 | HyperAI超神经