3 个月前

基于语义感知机制的双流网络用于弱监督时序动作定位

基于语义感知机制的双流网络用于弱监督时序动作定位

摘要

弱监督时序动作定位旨在仅使用视频级别的标注信息,检测未剪辑视频中的动作边界。现有大多数方法通过识别与视频级分类任务最相关的时序区域来定位动作,但这类方法往往忽略了帧间语义的一致性。本文提出一个新假设:即使缺乏对单个片段的监督信号,具有相似特征表示的片段也应被视为同一动作类别。为此,我们设计了一个可学习的字典,其条目对应于各类动作的类别中心(class centroids)。对于被判定属于同一动作类别的片段,其特征表示被引导趋近于相同的类别中心,从而帮助网络更好地感知帧的语义信息,避免产生不合理的定位结果。此外,我们提出一种双流框架,分别结合注意力机制与多实例学习策略,以提取细粒度线索与显著特征。二者之间的互补性使模型能够有效优化时序边界。最后,所提出的模型在公开可用的THUMOS-14和ActivityNet-1.3数据集上进行了验证,大量实验与分析表明,该模型在性能上显著优于现有方法。

基准测试

基准方法指标
weakly-supervised-action-localization-onTSN
mAP@0.1:0.5: 57.2
mAP@0.1:0.7: 46.2
mAP@0.5: 37.1
weakly-supervised-action-localization-on-1TSN
mAP@0.5: 41.8
mAP@0.5:0.95: 26.3

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于语义感知机制的双流网络用于弱监督时序动作定位 | 论文 | HyperAI超神经