4 个月前

面向对象的迁移学习在人-物交互检测中的应用

面向对象的迁移学习在人-物交互检测中的应用

摘要

推理人类与物体的互动(Human-Object Interactions, HOI)对于更深入地理解场景至关重要,而物体的功能(或功能属性,Affordances)对于人类发现未见过的新型HOI尤为重要。受此启发,我们提出了一种功能转移学习方法,用于同时检测包含新型物体的HOI并识别其功能属性。具体而言,HOI表示可以被解耦为功能属性表示和物体表示的组合,这使得通过结合额外图像中的功能属性表示和新型物体表示来组成新的互动成为可能,即把功能属性转移到新型物体上。借助所提出的功能转移学习方法,模型还能够从已知的功能属性表示中推断出新型物体的功能属性。因此,该方法可用于1)提高HOI检测的性能,特别是对于包含未见过物体的HOI;以及2)推断新型物体的功能属性。在HICO-DET和HOI-COCO(来自V-COCO)两个数据集上的实验结果表明,该方法在HOI检测和物体功能属性检测方面显著优于近期的最先进方法。代码可在https://github.com/zhihou7/HOI-CL 获取。

代码仓库

zhihou7/HOI-CL-OneStage
官方
pytorch
GitHub 中提及
zhihou7/HOI-CL
官方
tf
GitHub 中提及

基准测试

基准方法指标
affordance-recognition-on-hico-detATL
COCO-Val2017: 52.01
HICO: 59.44
Novel classes: 15.64
Object365: 50.94
affordance-recognition-on-hico-det-unknownATL
COCO-Val2017: 36.80
HICO: 42.00
Novel Classes: 15.64
Obj365: 34.38
human-object-interaction-concept-discovery-onAffordance Transfer
Unknown (AP): 24.38

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
面向对象的迁移学习在人-物交互检测中的应用 | 论文 | HyperAI超神经