3 个月前

CHORE:基于单张RGB图像的接触、人体与物体重建

CHORE:基于单张RGB图像的接触、人体与物体重建

摘要

以往大多数从图像中感知三维人体的工作均将人体视为孤立个体,忽略其周围环境。然而,人类始终与周围物体持续互动,因此亟需能够同时建模人体、物体及其交互关系的模型。这一问题极具挑战性,主要源于人体与物体之间严重的遮挡、交互类型的多样性以及深度信息的模糊性。本文提出一种名为 CHORE 的新方法,能够从单张RGB图像中联合重建人体与物体。CHORE 受益于隐式表面学习的最新进展以及经典基于模型的拟合方法。我们通过两个无符号距离场(unsigned distance fields)隐式表示人体与物体的神经重建,同时引入对应场(correspondence field)以关联参数化人体模型,并引入物体姿态场(object pose field)来建模物体的三维姿态。该设计使我们能够在建模人体与物体的同时,有效推理其交互关系。此外,以往基于像素对齐的隐式学习方法通常依赖合成数据,并依赖于在真实数据中并不成立的假设。为此,我们提出一种简洁而有效的深度感知缩放机制,显著提升了在真实数据上的形状学习效率。实验结果表明,采用所提出策略训练的联合重建方法显著优于现有最先进水平。相关代码与模型已公开,详见:https://virtualhumans.mpi-inf.mpg.de/chore

代码仓库

xiexh20/CHORE
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
3d-human-reconstruction-on-behaveCHORE
Chamfer Distance: 5.58
3d-object-reconstruction-on-behaveCHORE
Chamfer Distance: 10.66

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
CHORE:基于单张RGB图像的接触、人体与物体重建 | 论文 | HyperAI超神经