
摘要
异常检测旨在将异常样本与正常样本区分开来,而预训练网络在异常检测任务中展现出巨大潜力。然而,在仅使用单类训练数据进行微调时,直接适配预训练特征存在模式坍塌(pattern collapse)的风险。为此,本文提出一种名为“基于预训练特征的约束自适应投影”(Constrained Adaptive Projection, CAP)的异常检测框架。该框架结合预训练特征,设计了一个简单的线性投影头,用于对特定输入及其k个最相似的预训练正常表示进行特征适配;同时,引入一种改进的自注意力机制,以挖掘单类语义特征之间的内在关联。此外,本文提出一种新的损失函数,用以防止潜在的模式坍塌问题。该损失函数不仅考虑特定数据与其对应自适应正常表示之间的相似性,还引入一个约束项,使预训练特征空间与自适应特征空间在一定程度上对齐。实验结果表明,所提方法在语义异常检测和传感异常检测基准测试中均取得了当前最优性能,具体表现为在CIFAR-100数据集上达到96.5%的AUROC,在CIFAR-10数据集上达到97.0%的AUROC,在MvTec数据集上达到89.9%的AUROC。
代码仓库
tabguigui/cap
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| anomaly-detection-on-one-class-cifar-10 | CAP | AUROC: 97.0 |