3 个月前

TranAD:用于多变量时间序列数据异常检测的深度Transformer网络

TranAD:用于多变量时间序列数据异常检测的深度Transformer网络

摘要

在现代工业应用中,高效地实现多变量时间序列数据的异常检测与诊断具有重要意义。然而,构建一个能够快速且准确识别异常观测的系统仍面临巨大挑战,主要原因包括异常标签的缺失、数据的高度波动性,以及现代应用对超低推理时延的严苛要求。尽管近年来深度学习在异常检测领域取得了显著进展,但能够同时应对上述所有挑战的方法仍寥寥无几。本文提出了一种基于深度Transformer网络的异常检测与诊断模型——TranAD。该模型采用基于注意力机制的序列编码器,能够利用数据中更广泛的时序趋势信息,实现快速推理。TranAD通过基于焦点得分的自条件机制,实现鲁棒的多模态特征提取,并结合对抗训练提升模型稳定性。此外,模型无关的元学习(Model-Agnostic Meta Learning, MAML)使模型能够在数据有限的情况下高效训练。在六个公开可用数据集上的大量实证研究结果表明,TranAD在检测与诊断性能上均显著优于当前最先进的基线方法,且具备更高的数据利用效率与训练效率。具体而言,TranAD的F1分数最高可提升17%,同时训练时间相比基线方法最多可减少99%。

代码仓库

imperial-qore/tranad
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
unsupervised-anomaly-detection-on-smapTranAd
AUC: 99.21
F1: 89.15
Precision: 80.43
Recall: 99.99

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
TranAD:用于多变量时间序列数据异常检测的深度Transformer网络 | 论文 | HyperAI超神经