3 个月前

基于预训练特征的约束自适应投影在异常检测中的应用

基于预训练特征的约束自适应投影在异常检测中的应用

摘要

异常检测旨在将异常样本与正常样本区分开来,而预训练网络在异常检测任务中展现出巨大潜力。然而,在仅使用单类训练数据进行微调时,直接适配预训练特征存在模式坍塌(pattern collapse)的风险。为此,本文提出一种名为“基于预训练特征的约束自适应投影”(Constrained Adaptive Projection, CAP)的异常检测框架。该框架结合预训练特征,设计了一个简单的线性投影头,用于对特定输入及其k个最相似的预训练正常表示进行特征适配;同时,引入一种改进的自注意力机制,以挖掘单类语义特征之间的内在关联。此外,本文提出一种新的损失函数,用以防止潜在的模式坍塌问题。该损失函数不仅考虑特定数据与其对应自适应正常表示之间的相似性,还引入一个约束项,使预训练特征空间与自适应特征空间在一定程度上对齐。实验结果表明,所提方法在语义异常检测和传感异常检测基准测试中均取得了当前最优性能,具体表现为在CIFAR-100数据集上达到96.5%的AUROC,在CIFAR-10数据集上达到97.0%的AUROC,在MvTec数据集上达到89.9%的AUROC。

代码仓库

tabguigui/cap
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
anomaly-detection-on-one-class-cifar-10CAP
AUROC: 97.0

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于预训练特征的约束自适应投影在异常检测中的应用 | 论文 | HyperAI超神经