3 个月前

生成模型的最优预算拒绝采样

生成模型的最优预算拒绝采样

摘要

近期提出的拒绝采样(rejection sampling)方法旨在提升基于判别器的生成模型的性能。然而,这些方法仅在采样预算无限的情况下达到最优,并且通常应用于与拒绝过程独立训练的生成器。本文首先提出一种最优预算拒绝采样(Optimal Budgeted Rejection Sampling, OBRS)方案,该方案在给定采样预算条件下,可严格证明对真实分布与拒绝后分布之间的任意 $f$-散度均达到最优。其次,我们提出一种端到端的方法,将采样机制融入训练过程,进一步提升模型的整体性能。通过实验与理论分析,我们验证了所提出方法的有效性,表明其能够显著提高生成样本的质量与多样性。

基准测试

基准方法指标
image-generation-on-celeba-64x64BigGAN-OBRS
FID: 3.74
Precision: 0.74
Recall: 0.65
image-generation-on-imagenet-128x128BigGAN-OBRS
FID: 11.65
Precision: 0.27
Recall: 0.46

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
生成模型的最优预算拒绝采样 | 论文 | HyperAI超神经