摘要

高斯状态空间模型几十年来一直被用作序列数据的生成模型。它们具有直观的概率解释，形式简单，并且得到了广泛的应用。本文介绍了一种统一的算法，能够高效地学习一大类线性和非线性状态空间模型，包括那些发射分布和转移分布由深度神经网络建模的变体。我们的学习算法同时学习编译后的推理网络和生成模型，利用由递归神经网络参数化的结构化变分近似来模拟后验分布。我们将该学习算法应用于合成数据集和真实世界数据集，展示了其可扩展性和多功能性。研究结果表明，使用结构化后验近似可以显著提高模型在保留数据上的对数似然值。