3 个月前

基于解耦模态的交叉注意力机制用于基于Transformer的3D人体网格恢复

基于解耦模态的交叉注意力机制用于基于Transformer的3D人体网格恢复

摘要

近年来,基于Transformer编码器的架构在单目3D人体网格重建任务中取得了最先进的性能,但这类模型通常需要大量参数和高昂的计算开销。由于内存占用大、推理速度慢,难以在实际场景中部署。本文提出一种新型的Transformer编码器-解码器架构,用于从单张图像重建3D人体网格,命名为FastMETRO。我们发现,基于编码器的Transformer性能瓶颈主要源于输入token的设计,该设计引入了token之间的高复杂度交互。通过采用编码器-解码器架构,我们解耦了这些交互关系,使得模型显著减少参数量并大幅缩短推理时间。此外,我们通过注意力掩码(attention masking)和网格上采样操作引入人体形态学先验知识,有效提升了模型的收敛速度与重建精度。实验结果表明,FastMETRO在准确率与效率的权衡(Pareto-front)上实现显著优化,在Human3.6M和3DPW数据集上明显优于现有基于图像的方法。同时,我们在FreiHAND数据集上验证了该方法的良好泛化能力。

代码仓库

postech-ami/fastmetro
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
3d-hand-pose-estimation-on-freihandFastMETRO
PA-F@15mm: 0.983
PA-F@5mm: 0.687
PA-MPJPE: 6.5
PA-MPVPE: 7.1
3d-human-pose-estimation-on-3dpwFastMETRO
MPJPE: 73.5
MPVPE: 84.1
PA-MPJPE: 44.6
3d-human-pose-estimation-on-emdbFastMETRO-L no SMPL Head
Average MPJPE (mm): 108.107
Average MPJPE-PA (mm): 66.794
Average MVE (mm): 119.23
Average MVE-PA (mm): 81.1847
Jitter (10m/s^3): 185.933
3d-human-pose-estimation-on-emdbFastMETRO-L
Average MPJAE (deg): 25.07
Average MPJAE-PA (deg): 22.9482
Average MPJPE (mm): 115.036
Average MPJPE-PA (mm): 72.6765
Average MVE (mm): 133.566
Average MVE-PA (mm): 86.0043
Jitter (10m/s^3): 81.2959
3d-human-pose-estimation-on-human36mFastMETRO
Average MPJPE (mm): 52.2
Multi-View or Monocular: Monocular
PA-MPJPE: 33.7

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于解耦模态的交叉注意力机制用于基于Transformer的3D人体网格恢复 | 论文 | HyperAI超神经