
摘要
时间动作提案生成是一个重要但具有挑战性的问题,因为富含动作内容的时间提案对于分析长时且包含大量无关内容的真实世界视频至关重要。该问题不仅要求方法能够生成具有精确时间边界的提案,还需要通过较少的提案以高召回率和高重叠度检索出覆盖真实动作实例的提案。为了解决这些难题,我们提出了一种有效的提案生成方法,称为边界敏感网络(Boundary-Sensitive Network, BSN),该方法采用了“局部到全局”的策略。在局部层面,BSN首先定位具有高概率的时间边界,然后直接将这些边界组合成提案。在全局层面,利用边界敏感提案特征,BSN通过评估一个提案在其区域内是否包含动作的置信度来检索提案。我们在两个具有挑战性的数据集上进行了实验:ActivityNet-1.3和THUMOS14,在这两个数据集中,BSN在高召回率和高时间精度方面优于其他最先进的时间动作提案生成方法。最后,进一步的实验表明,通过结合现有的动作分类器,我们的方法显著提升了最先进的时间动作检测性能。
代码仓库
wzmsltw/BSN-boundary-sensitive-network
pytorch
GitHub 中提及
PaddlePaddle/models/tree/develop/PaddleCV/video/models/bsn
paddle
GitHub 中提及
coolbay/VSGN
pytorch
GitHub 中提及
wzmsltw/BSN-boundary-sensitive-network.pytorch
官方
pytorch
GitHub 中提及
Frostinassiky/gtad
pytorch
GitHub 中提及
carpedkm/G_TAD_customizing
pytorch
GitHub 中提及
hyperfraise/end-to-end-BSN.pytorch
pytorch
GitHub 中提及
Tencent/ActionDetection-DBG
pytorch
GitHub 中提及
Andrew-booler/BSN-ActivityNet
pytorch
GitHub 中提及
zzy123abc/BSN-boundary-sensitive-network-master
pytorch
GitHub 中提及
guilk/diva
tf
GitHub 中提及
Lechatelia/action-proposal-generation
pytorch
GitHub 中提及
ZhangNYG/BSN
tf
GitHub 中提及
open-mmlab/mmaction2
pytorch
HoganZhang/BSN-boundary-sensitive-network.pytorch
pytorch
GitHub 中提及
WangChen0902/BSN
tf
GitHub 中提及
Ontheway361/BSN_pytorch
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| action-recognition-in-videos-on-thumos14 | BSN | mAP@0.3: 53.5 mAP@0.4: 45.0 mAP@0.5: 36.9 |
| temporal-action-localization-on-activitynet | BSN | mAP: 30.03 mAP IOU@0.5: 46.45 mAP IOU@0.75: 29.96 mAP IOU@0.95: 8.02 |
| temporal-action-localization-on-thumos14 | BSN UNet | mAP IOU@0.3: 53.5 mAP IOU@0.4: 45 mAP IOU@0.5: 36.9 mAP IOU@0.6: 28.4 mAP IOU@0.7: 20 |
| temporal-action-proposal-generation-on | BSN | AR@100: 74.16 AUC (test): 66.26 AUC (val): 66.17 |
| temporal-action-proposal-generation-on-thumos | BSN + Soft-NMS | AR@100: 46.06 AR@1000: 64.52 AR@200: 53.21 AR@50: 37.46 AR@500: 60.64 |