
摘要
长短期记忆(Long Short-Term Memory, LSTM)网络因其在建模序列数据动态特性与依赖关系方面的强大能力,在三维人体动作识别任务中表现出优异性能。然而,并非所有关节点对动作分析都具有同等信息量,无关关节点往往会引入大量噪声,因此有必要更加关注具有判别性的关键关节点。传统的LSTM网络在注意力机制方面能力较弱,难以有效捕捉这些重要关节点。为此,本文提出一种新型LSTM网络——全局上下文感知注意力LSTM(Global Context-Aware Attention LSTM, GCA-LSTM),该网络能够借助全局上下文信息,有选择性地聚焦于动作序列中最具信息量的关节点。为进一步构建动作序列的可靠注意力表征,我们还设计了一种递归注意力机制,使注意力性能在迭代过程中持续优化。实验结果表明,所提出的端到端网络能够稳定地聚焦于骨骼序列每一帧中最具信息量的关节点。此外,该网络在三个具有挑战性的三维动作识别数据集上均取得了当前最优的识别性能。
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| one-shot-3d-action-recognition-on-ntu-rgbd | Attention Network | Accuracy: 41.0% |
| one-shot-3d-action-recognition-on-ntu-rgbd | Fully Connected | Accuracy: 42.1% |
| skeleton-based-action-recognition-on-ntu-rgbd | GCA-LSTM | Accuracy (CS): 76.10 Accuracy (CV): 84.00 |
| skeleton-based-action-recognition-on-ntu-rgbd-1 | GCA-LSTM | Accuracy (Cross-Setup): 59.2% Accuracy (Cross-Subject): 58.3% |