4 个月前

运动融合帧:手势识别的数据级融合策略

运动融合帧:手势识别的数据级融合策略

摘要

获取动作的时空状态是动作分类中最关键的步骤。在本文中,我们提出了一种数据层面融合策略,即运动融合帧(Motion Fused Frames, MFFs),旨在将运动信息融入静态图像中,以更好地表示动作的时空状态。MFFs 可以作为输入应用于任何深度学习架构,且对网络的修改非常少。我们在三个视频数据集——Jester、ChaLearn LAP IsoGD 和 NVIDIA 动态手势数据集——的手势识别任务上评估了 MFFs 的性能,这些任务需要捕捉手部运动的长期时间关系。我们的方法在 Jester 和 ChaLearn 基准测试中分别获得了 96.28% 和 57.4% 的分类准确率,而在 NVIDIA 基准测试中则达到了最先进的 84.7% 准确率。

代码仓库

okankop/MFF-pytorch
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
hand-gesture-recognition-on-chalean-test8-MFFs-3f1c
Accuracy: 56.7
hand-gesture-recognition-on-chalearn-val8-MFFs-3f1c (5 crop)
Accuracy: 57.4
hand-gesture-recognition-on-jester-testDRX3D
Top 1 Accuracy: 96.6
hand-gesture-recognition-on-jester-val8-MFFs-3f1c (5 crop)
Top 1 Accuracy: 96.33
Top 5 Accuracy: 99.86
hand-gesture-recognition-on-nvgesture-18-MFFs-3f1c
Accuracy: 84.7

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
运动融合帧:手势识别的数据级融合策略 | 论文 | HyperAI超神经