3 个月前

用于无监督异常检测的深度自编码高斯混合模型

用于无监督异常检测的深度自编码高斯混合模型

摘要

在基础机器学习研究与工业应用中,对多维或高维数据进行无监督异常检测具有重要意义,而密度估计正是其核心所在。尽管以往基于降维后接密度估计的方法已取得丰硕成果,但这些方法普遍面临模型学习解耦、优化目标不一致,以及在低维空间中难以保留关键信息等问题。本文提出一种深度自编码高斯混合模型(Deep Autoencoding Gaussian Mixture Model, DAGMM),用于无监督异常检测。该模型利用深度自编码器为每个输入数据点生成低维表示及重构误差,并将二者输入高斯混合模型(GMM)。与传统的两阶段解耦训练及标准期望最大化(EM)算法不同,DAGMM采用端到端的方式,联合优化深度自编码器与混合模型的参数,同时引入独立的估计网络以辅助混合模型参数的学习。这种联合优化机制在自动编码重构、潜在表示的密度估计以及正则化之间实现了良好平衡,有助于自编码器跳出次优局部极小值,进一步降低重构误差,从而无需预训练。在多个公开基准数据集上的实验结果表明,DAGMM显著优于当前最先进的异常检测方法,在标准F1分数上最高提升了14%。

基准测试

基准方法指标
unsupervised-anomaly-detection-with-specifiedDAGMM
AUC-ROC: 0.883
unsupervised-anomaly-detection-with-specified-1DAGMM
AUC-ROC: 0.846
unsupervised-anomaly-detection-with-specified-10DAGMM
AUC-ROC: 0.624
unsupervised-anomaly-detection-with-specified-11DAGMM
AUC-ROC: 0.784
unsupervised-anomaly-detection-with-specified-12DAGMM
AUC-ROC: 0.784
unsupervised-anomaly-detection-with-specified-13DAGMM
AUC-ROC: 0.616
unsupervised-anomaly-detection-with-specified-14DAGMM
AUC-ROC: 0.780
unsupervised-anomaly-detection-with-specified-15DAGMM
AUC-ROC: 0.477
unsupervised-anomaly-detection-with-specified-16DAGMM
AUC-ROC: 0.503
unsupervised-anomaly-detection-with-specified-17DAGMM
AUC-ROC: 0.708
unsupervised-anomaly-detection-with-specified-18DAGMM
AUC-ROC: 0.793
unsupervised-anomaly-detection-with-specified-19DAGMM
AUC-ROC: 0.710
unsupervised-anomaly-detection-with-specified-20DAGMM
AUC-ROC: 0.826
unsupervised-anomaly-detection-with-specified-21DAGMM
AUC-ROC: 0.778
unsupervised-anomaly-detection-with-specified-22DAGMM
AUC-ROC: 0.629
unsupervised-anomaly-detection-with-specified-23DAGMM
AUC-ROC: 0.613
unsupervised-anomaly-detection-with-specified-24DAGMM
AUC-ROC: 0.914
unsupervised-anomaly-detection-with-specified-25DAGMM
AUC-ROC: 0.769
unsupervised-anomaly-detection-with-specified-26DAGMM
AUC-ROC: 0.960
unsupervised-anomaly-detection-with-specified-27DAGMM
AUC-ROC: 0.788
unsupervised-anomaly-detection-with-specified-5DAGMM
AUC-ROC: 0.911
unsupervised-anomaly-detection-with-specified-6DAGMM
AUC-ROC: 0.883
unsupervised-anomaly-detection-with-specified-7DAGMM
AUC-ROC: 0.850
unsupervised-anomaly-detection-with-specified-8DAGMM
AUC-ROC: 0.574
unsupervised-anomaly-detection-with-specified-9DAGMM
AUC-ROC: 0.494

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于无监督异常检测的深度自编码高斯混合模型 | 论文 | HyperAI超神经