3 个月前

基于BERT的3D CNN架构中晚期时序建模用于动作识别

基于BERT的3D CNN架构中晚期时序建模用于动作识别

摘要

在本工作中,我们结合三维卷积与后期时间建模方法进行动作识别。为此,我们用双向Transformer编码器表示(Bidirectional Encoder Representations from Transformers, BERT)层取代了传统三维卷积网络末端的时空全局平均池化(Temporal Global Average Pooling, TGAP)层,以借助BERT的注意力机制更有效地利用时间信息。实验结果表明,这一改进显著提升了多种主流三维卷积架构在动作识别任务中的性能,包括ResNeXt、I3D、SlowFast以及R(2+1)D。此外,我们在HMDB51和UCF101两个基准数据集上均取得了当前最优的识别结果,Top-1准确率分别达到85.10%和98.69%。相关代码已公开发布。

代码仓库

artest08/LateTemporalModeling3DCNN
官方
pytorch
GitHub 中提及
kietngt00/hmdb51-recognition
pytorch
GitHub 中提及

基准测试

基准方法指标
action-recognition-in-videos-on-hmdb-51R2+1D-BERT
Average accuracy of 3 splits: 85.10
action-recognition-on-ucf-101R2+1D-BERT
3-fold Accuracy: 98.69

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于BERT的3D CNN架构中晚期时序建模用于动作识别 | 论文 | HyperAI超神经