3 个月前

FaceDancer:姿态与遮挡感知的高保真人脸替换

FaceDancer:姿态与遮挡感知的高保真人脸替换

摘要

在本工作中,我们提出了一种新型的单阶段无特定主体(subject-agnostic)人脸替换与身份迁移方法,命名为 FaceDancer。本文主要有两项贡献:自适应特征融合注意力机制(Adaptive Feature Fusion Attention, AFFA)和可解释特征相似性正则化(Interpreted Feature Similarity Regularization, IFSR)。AFFA 模块嵌入解码器中,能够无需任何额外的人脸分割过程,自适应地融合属性特征与基于身份信息的特征。在 IFSR 中,我们利用身份编码器中的中间特征,有效保留目标人脸的重要属性,如头部姿态、面部表情、光照条件及遮挡情况,同时实现源人脸身份的高保真迁移。我们在多个数据集上进行了广泛的定量与定性实验,结果表明,所提出的 FaceDancer 在身份迁移性能方面优于现有各类最先进方法,且在姿态保持方面显著优于大多数先前方法。

代码仓库

felixrosberg/facedancer
官方
tf
GitHub 中提及

基准测试

基准方法指标
face-swapping-on-aflw2000-3dFaceDancer (Config A)
ID retrieval: 98.5
exp embedding L2: 7.07
pose: 14.97
face-swapping-on-aflw2000-3dFaceDancer (Config D)
ID retrieval: 97.10
exp embedding L2: 4.15
pose: 5.75
face-swapping-on-aflw2000-3dFaceDancer (Config C)
ID retrieval: 97.65
exp embedding L2: 4.13
pose: 5.82
face-swapping-on-aflw2000-3dFaceDancer (Config B)
ID retrieval: 97.95
exp embedding L2: 5.74
pose: 5.86
face-swapping-on-faceforensicsFaceDancer (Config B)
ID retrieval: 98.54
exp embedding L2: 8.52
pose: 2.24
face-swapping-on-faceforensicsFaceDancer (Config D)
ID retrieval: 98.19
exp embedding L2: 5.70
pose: 2.15
face-swapping-on-faceforensicsFaceDancer (Config C)
ID retrieval: 98.84
exp embedding L2: 7.97
pose: 2.04

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
FaceDancer:姿态与遮挡感知的高保真人脸替换 | 论文 | HyperAI超神经