4 个月前

ArtiBoost:通过在线探索和合成提升关节3D手部-物体姿态估计

ArtiBoost:通过在线探索和合成提升关节3D手部-物体姿态估计

摘要

从单个RGB图像估计手部和物体的三维姿态是一个高度模糊且具有挑战性的问题,需要大规模的数据集包含多种手部姿态、物体类型和摄像机视角。大多数现实世界的数据集缺乏这些多样性。相比之下,数据合成可以轻松地分别确保这些多样性。然而,构建既有效又多样的手-物互动并高效地从大量合成数据中学习仍然是一个难题。为了解决上述问题,我们提出了一种轻量级的在线数据增强方法——ArtiBoost。ArtiBoost通过在复合的手-物配置和视角空间(CCV-space)中采样来覆盖多样的手-物姿态和摄像机视角,并通过损失反馈和样本重新加权自适应地丰富当前难以区分的项目。ArtiBoost在学习管道中交替执行数据探索和合成,并将这些合成数据与现实世界源数据混合用于训练。我们在一个简单的基线网络上应用了ArtiBoost,并在多个手-物基准测试中观察到了性能提升。我们的模型和代码可在以下网址获取:https://github.com/lixiny/ArtiBoost。

代码仓库

lixiny/artiboost
官方
jax
GitHub 中提及
mvig-sjtu/artiboost
官方
jax
GitHub 中提及

基准测试

基准方法指标
3d-hand-pose-estimation-on-ho-3dArtiBoost
AUC_J: 0.773
AUC_V: 0.782
F@15mm: 0.944
F@5mm: 0.488
PA-MPJPE (mm): 11.4
PA-MPVPE: 10.9
3d-hand-pose-estimation-on-ho-3d-v3ArtiBoost
AUC_J: 0.785
AUC_V: 0.792
F@15mm: 0.946
F@5mm: 0.507
PA-MPJPE: 10.8
PA-MPVPE: 10.4
hand-object-pose-on-dexycbArtiBoost
ADD-S: -
Average MPJPE (mm): 12.8
MCE: -
OCE: -
Procrustes-Aligned MPJPE: -
hand-object-pose-on-ho-3dArtiBoost
ADD-S: -
Average MPJPE (mm): 26.3
OME: -
PA-MPJPE: 11.4
ST-MPJPE: 25.3

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
ArtiBoost:通过在线探索和合成提升关节3D手部-物体姿态估计 | 论文 | HyperAI超神经