3 个月前

RODD:一种用于鲁棒分布外检测的自监督方法

RODD:一种用于鲁棒分布外检测的自监督方法

摘要

近期研究将检测并拒绝分布外(Out-of-Distribution, OOD)样本视为深度学习(Deep Learning, DL)模型安全部署中的关键挑战。理想情况下,深度学习模型应对分布内(In-Distribution, ID)数据保持高置信度,而对分布外样本则应具备识别与拒绝能力,这一原则正是OOD检测的核心驱动力。本文提出一种简单但高效的广义OOD检测方法——RODD(Robust Out-of-Distribution Detection),该方法不依赖于特定的OOD数据集。我们的方法基于训练样本的自监督特征学习,使得学习到的嵌入(embeddings)聚集在紧凑的低维空间中。受近期研究启发,即自监督对抗对比学习有助于提升模型鲁棒性,我们通过实验证明:采用自监督对比学习预训练的模型,在潜在空间中能够更有效地实现一维特征学习。所提出的RODD方法在一系列主流基准数据集上的OOD检测任务中,性能超越现有最先进(SOTA)方法。在CIFAR-100基准测试中,RODD相较当前最优方法将95%真阳性率下的误报率(FPR@95)降低了26.97%。

代码仓库

UmarKhalidcs/RODD
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
out-of-distribution-detection-on-cifar-10Wide ResNet 40x2
AUROC: 99.43
FPR95: 3.87
out-of-distribution-detection-on-cifar10Wide ResNet 40x2
AUROC: 99.3
out-of-distribution-detection-on-cifar10-1Wideresnet 40
AUROC: 99.3
out-of-distribution-detection-on-cifar100Wide Resnet 40x2
AUROC: 95.76

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
RODD:一种用于鲁棒分布外检测的自监督方法 | 论文 | HyperAI超神经