3 个月前

SelfRecon:从单目视频自重建你的数字人像

SelfRecon:从单目视频自重建你的数字人像

摘要

我们提出SelfRecon,一种结合隐式与显式表示的穿衣人体三维重建方法,能够从单目自旋转人体视频中恢复时空一致的几何结构。显式方法通常需要为特定序列预定义模板网格,然而对于特定个体而言,获取高质量模板网格极为困难;同时,固定的拓扑结构限制了重建精度以及可处理的服装类型。相比之下,隐式表示由于其连续性,能够支持任意拓扑结构,并可精确表达高保真几何形状。然而,隐式方法在整合多帧信息以生成适用于下游应用的一致注册序列方面存在挑战。为此,我们提出融合两类表示的优势:利用显式网格的可微分掩码损失来保持整体形状的一致性,同时通过可微分神经渲染对隐式表面的细节进行精细化优化。此外,显式网格会周期性更新以适应拓扑变化,并设计了一种一致性损失来对齐两种表示。与现有方法相比,SelfRecon能够在自监督优化下,实现对任意着装人体的高保真表面重建。大量实验结果表明,该方法在真实采集的单目视频上具有显著有效性。项目源代码已公开,地址为:https://github.com/jby1993/SelfReconCode。

代码仓库

jby1993/selfreconcode
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
3d-human-reconstruction-on-4d-dressSelfRecon_Inner
Chamfer (cm): 3.180
IoU: 0.754
Normal Consistency: 0.729
3d-human-reconstruction-on-4d-dressSelfRecon_Outer
Chamfer (cm): 3.014
IoU: 0.787
Normal Consistency: 0.725

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
SelfRecon:从单目视频自重建你的数字人像 | 论文 | HyperAI超神经