4 个月前

BSN:用于时间动作提案生成的边界敏感网络

BSN:用于时间动作提案生成的边界敏感网络

摘要

时间动作提案生成是一个重要但具有挑战性的问题,因为富含动作内容的时间提案对于分析长时且包含大量无关内容的真实世界视频至关重要。该问题不仅要求方法能够生成具有精确时间边界的提案,还需要通过较少的提案以高召回率和高重叠度检索出覆盖真实动作实例的提案。为了解决这些难题,我们提出了一种有效的提案生成方法,称为边界敏感网络(Boundary-Sensitive Network, BSN),该方法采用了“局部到全局”的策略。在局部层面,BSN首先定位具有高概率的时间边界,然后直接将这些边界组合成提案。在全局层面,利用边界敏感提案特征,BSN通过评估一个提案在其区域内是否包含动作的置信度来检索提案。我们在两个具有挑战性的数据集上进行了实验:ActivityNet-1.3和THUMOS14,在这两个数据集中,BSN在高召回率和高时间精度方面优于其他最先进的时间动作提案生成方法。最后,进一步的实验表明,通过结合现有的动作分类器,我们的方法显著提升了最先进的时间动作检测性能。

代码仓库

coolbay/VSGN
pytorch
GitHub 中提及
Frostinassiky/gtad
pytorch
GitHub 中提及
carpedkm/G_TAD_customizing
pytorch
GitHub 中提及
hyperfraise/end-to-end-BSN.pytorch
pytorch
GitHub 中提及
Tencent/ActionDetection-DBG
pytorch
GitHub 中提及
Andrew-booler/BSN-ActivityNet
pytorch
GitHub 中提及
guilk/diva
tf
GitHub 中提及
ZhangNYG/BSN
tf
GitHub 中提及
WangChen0902/BSN
tf
GitHub 中提及
Ontheway361/BSN_pytorch
pytorch
GitHub 中提及

基准测试

基准方法指标
action-recognition-in-videos-on-thumos14BSN
mAP@0.3: 53.5
mAP@0.4: 45.0
mAP@0.5: 36.9
temporal-action-localization-on-activitynetBSN
mAP: 30.03
mAP IOU@0.5: 46.45
mAP IOU@0.75: 29.96
mAP IOU@0.95: 8.02
temporal-action-localization-on-thumos14BSN UNet
mAP IOU@0.3: 53.5
mAP IOU@0.4: 45
mAP IOU@0.5: 36.9
mAP IOU@0.6: 28.4
mAP IOU@0.7: 20
temporal-action-proposal-generation-onBSN
AR@100: 74.16
AUC (test): 66.26
AUC (val): 66.17
temporal-action-proposal-generation-on-thumosBSN + Soft-NMS
AR@100: 46.06
AR@1000: 64.52
AR@200: 53.21
AR@50: 37.46
AR@500: 60.64

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
BSN:用于时间动作提案生成的边界敏感网络 | 论文 | HyperAI超神经