4 个月前

可学习的人体姿态三角化方法

可学习的人体姿态三角化方法

摘要

我们提出了两种基于新的可学习三角测量方法的多视角3D人体姿态估计的新解决方案,这些方法结合了多个2D视图中的3D信息。第一个(基准)解决方案是一种基本的可微分代数三角测量方法,增加了从输入图像中估计出的置信权重。第二个解决方案则基于一种新颖的从中间2D骨干特征图进行体积聚合的方法。聚合后的体积通过3D卷积进一步优化,生成最终的3D关节热图,并允许建模人体姿态先验。重要的是,这两种方法都是端到端可微分的,这使得我们可以直接优化目标度量。我们在不同数据集之间展示了这些解决方案的可迁移性,并在Human3.6M数据集上显著提升了多视角状态下的技术水平。视频演示、注释和额外材料将发布在我们的项目页面上(https://saic-violet.github.io/learnable-triangulation)。

代码仓库

基准测试

基准方法指标
3d-human-pose-estimation-on-cmu-panopticLearnable Triangulation of Human Pose
Average MPJPE (mm): 13.7
3d-human-pose-estimation-on-human36mLearnable Triangulation of Human Pose
Average MPJPE (mm): 20.8
Multi-View or Monocular: Multi-View
Using 2D ground-truth joints: No
3d-human-pose-estimation-on-human36mLearnable Triangulation of Human Pose (Monocular)
Average MPJPE (mm): 49.9
3d-human-pose-estimation-on-human36mLearnable Triangulation of Human Pose (filtered)
Average MPJPE (mm): 17.7
Multi-View or Monocular: Multi-View

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
可学习的人体姿态三角化方法 | 论文 | HyperAI超神经