3 个月前

AC-SUM-GAN:连接Actor-Critic与生成对抗网络的无监督视频摘要方法

AC-SUM-GAN:连接Actor-Critic与生成对抗网络的无监督视频摘要方法

摘要

本文提出了一种新型的无监督视频摘要生成方法。所提出的架构将Actor-Critic模型嵌入生成对抗网络(Generative Adversarial Network, GAN)中,并将重要视频片段的选择(用于构建摘要的片段)建模为一个序列生成任务。Actor与Critic在该框架中协同参与一个动态博弈过程,逐步引导关键视频片段的选取;在每一步博弈中,二者的选择会触发判别器(Discriminator)给出相应的奖励信号。设计的训练流程使Actor与Critic能够共同探索动作空间,并自动学习到一套有效的关键片段选择策略。此外,本文还引入了一种在训练结束后用于选择最优模型的评估准则,该准则可实现对训练过程中未从数据中学习的超参数(如正则化因子σ)的自动优选。在两个基准数据集(SumMe和TVSum)上的实验评估表明,所提出的AC-SUM-GAN模型在无监督方法中表现稳定且优异,其性能不仅显著优于现有无监督方法,甚至在多数指标上可与监督学习方法相媲美,达到当前最优(State-of-the-Art, SoA)水平。

基准测试

基准方法指标
unsupervised-video-summarization-on-summeAC-SUM-GAN
F1-score: 50.8
Parameters (M): 26.75
training time (s): 2825
unsupervised-video-summarization-on-tvsumAC-SUM-GAN
F1-score: 60.6
Parameters (M): 26.75
training time (s): 9380

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
AC-SUM-GAN:连接Actor-Critic与生成对抗网络的无监督视频摘要方法 | 论文 | HyperAI超神经