3 个月前

多分辨率连续归一化流

多分辨率连续归一化流

摘要

近期研究显示,神经微分方程(Neural Ordinary Differential Equations, ODEs)可通过连续归一化流(Continuous Normalizing Flows, CNFs)的视角,作为图像的生成模型。这类模型能够实现精确的似然计算,并支持可逆的生成过程与密度估计。在本工作中,我们提出了一种多分辨率版本的此类模型(MRCNF),其核心思想是通过建模生成精细图像所需附加信息的条件分布,以确保精细图像与粗略图像之间的一致性。我们引入了一种分辨率之间的变换机制,该机制在变换过程中保持对数似然值不变。实验结果表明,该方法在多个图像数据集上取得了与现有方法相当的似然性能,尤其在高分辨率下表现更优,且模型参数更少,仅需单张GPU即可完成训练。此外,我们还系统研究了(多分辨率)连续归一化流的分布外(out-of-distribution)检测能力,发现其行为与其他基于似然的生成模型相似。

代码仓库

voletiv/mrcnf
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
density-estimation-on-cifar-10MRCNF
NLL (bits/dim): 3.54
image-generation-on-imagenet-32x32MRCNF
bpd: 3.77
image-generation-on-imagenet-64x64MRCNF
Bits per dim: 3.44

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
多分辨率连续归一化流 | 论文 | HyperAI超神经