4 个月前

层次向量量化变压器在多类无监督异常检测中的应用

层次向量量化变压器在多类无监督异常检测中的应用

摘要

无监督图像异常检测(UAD)旨在学习正常样本的鲁棒性和区分性表示。虽然针对每个类别的单独解决方案会导致高昂的计算成本和有限的泛化能力,本文专注于构建一个适用于多个类别的统一框架。在这一具有挑战性的设定下,基于连续潜在表示假设的流行重建网络通常会遇到“相同捷径”问题,即正常样本和异常样本都能被很好地重建,从而难以区分。为了解决这一关键问题,我们提出了一种基于概率框架的分层向量量化原型导向Transformer。首先,我们不是学习连续表示,而是保留典型的正常模式作为离散的标志性原型,并验证了向量量化在防止模型陷入捷径中的重要性。向量量化的标志性原型被集成到Transformer中进行重建,从而使异常数据点转换为正常数据点。其次,我们研究了一种精巧的分层框架来缓解码本崩溃问题并补充脆弱的正常模式。第三,提出了一种原型导向的最佳传输方法,以更好地调节原型并分层次评估异常分数。通过在MVTec-AD和VisA数据集上的评估,我们的模型超越了现有的最先进方法,并且具有良好的可解释性。代码可在 https://github.com/RuiyingLu/HVQ-Trans 获取。

代码仓库

ruiyinglu/hvq-trans
官方
pytorch

基准测试

基准方法指标
multi-class-anomaly-detection-on-mvtec-adHVQ-Trans
Detection AUROC: 98.0
Segmentation AUROC: 97.3

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
层次向量量化变压器在多类无监督异常检测中的应用 | 论文 | HyperAI超神经