
摘要
三维人脸密集对齐与重建在野外环境中是一项具有挑战性的任务,因为遮挡和大姿态人脸图像中通常会缺失部分面部信息。头部姿态的大范围变化也增加了解空间的复杂度,使得建模更加困难。我们的核心思想是通过建模遮挡和姿态,将这一复杂的任务分解为几个相对更容易管理的子任务。为此,我们提出了一种端到端框架,称为自对齐双脸回归网络(Self-aligned Dual face Regression Network, SADRNet),该网络可以预测依赖于姿态的人脸和独立于姿态的人脸。这两种人脸通过一种考虑遮挡的自对齐方法结合,生成最终的三维人脸。在两个流行的基准数据集AFLW2000-3D和Florence上进行的大量实验表明,所提出的方法在性能上显著优于现有的最先进方法。
代码仓库
MCG-NJU/SADRNet
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| 3d-face-reconstruction-on-aflw2000-3d | SADRNet | Mean NME : 3.25% |
| 3d-face-reconstruction-on-realy | SADRNet | @cheek: 1.856 (±0.701) @forehead: 2.413 (±0.537) @mouth: 1.591 (±0.488) @nose: 1.791 (±0.542) all: 1.913 |
| 3d-face-reconstruction-on-realy-side-view | SADRNet | @cheek: 2.010 (±0.715) @forehead: 2.490 (±0.566) @mouth: 1.560 (±0.462) @nose: 1.771 (±0.521) all: 1.958 |
| face-alignment-on-aflw2000-3d | SADRNet | Balanced NME (2D Sparse Alignment): 3.46% Mean NME(3D Dense Alignment): 4.02% |
| head-pose-estimation-on-aflw2000 | SADRNet | MAE: 3.82 |