4 个月前

少样本对抗学习生成逼真的神经头部模型

少样本对抗学习生成逼真的神经头部模型

摘要

近期的一些研究展示了如何通过训练卷积神经网络生成高度逼真的头部图像。为了创建个性化的说话头像模型,这些研究需要在一个包含大量单个人图像的数据集上进行训练。然而,在许多实际应用场景中,这样的个性化说话头像模型往往需要从少量甚至单张图像中学习。本文介绍了一种具备少样本学习能力的系统。该系统在大量视频数据集上进行了长时间的元学习,之后能够将先前未见过的人的神经说话头像模型的少样本和单样本学习问题转化为具有高容量生成器和判别器的对抗训练问题。关键在于,该系统能够以特定于个人的方式初始化生成器和判别器的参数,从而使得训练仅基于几张图像且能快速完成,尽管需要调整数千万个参数。我们证明了这种方法能够学习到高度逼真且个性化的新型说话头像模型,甚至包括肖像画。

代码仓库

基准测试

基准方法指标
talking-head-generation-on-voxceleb1-1-shotFew-shot Adversarial Model
FID: 43.0
talking-head-generation-on-voxceleb1-32-shotFew-shot Adversarial Model
FID: 29.5
talking-head-generation-on-voxceleb1-8-shotFew-shot Adversarial Model
FID: 38.0
talking-head-generation-on-voxceleb2-1-shotFew-shot Adversarial Model
FID: 48.5
talking-head-generation-on-voxceleb2-32-shotFew-shot Adversarial Model
FID: 30.6
talking-head-generation-on-voxceleb2-8-shotFew-shot Adversarial Model
FID: 42.2

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
少样本对抗学习生成逼真的神经头部模型 | 论文 | HyperAI超神经