3 个月前

开放集识别:一个优秀的闭集分类器就足够了吗?

开放集识别:一个优秀的闭集分类器就足够了吗?

摘要

准确识别测试样本是否属于分类器训练集中某一语义类别,对于模型的实际部署至关重要。这一任务被称为开放集识别(Open-Set Recognition, OSR),近年来受到广泛关注。本文首先证明,分类器做出“以上皆非”(none-of-above)判断的能力与其在封闭集类别上的准确率高度相关。这一关系在不同损失函数目标和网络架构下均成立,并在标准OSR基准测试以及大规模ImageNet评估中得到进一步验证。其次,我们利用这一相关性,通过提升封闭集分类准确率来增强基于最大logit分数的OSR“基线方法”的性能,从而在多个OSR基准上取得了当前最优(state-of-the-art)结果。类似地,我们通过提升现有最优方法的封闭集准确率也实现了性能提升,但其与该强基线之间的差距微乎其微。本文第三项贡献是提出“语义偏移基准”(Semantic Shift Benchmark, SSB),该基准更贴合检测语义新颖性的实际任务,相较于其他相关研究中常见的分布外检测(out-of-distribution detection)等分布偏移形式更具合理性。在该新评估框架下,我们再次验证了强基线方法与现有最优方法之间几乎不存在性能差异。项目主页:https://www.robots.ox.ac.uk/~vgg/research/osr/

代码仓库

sgvaze/osr_closed_set_all_you_need
官方
pytorch
GitHub 中提及
t9liverpool/OpenMix
pytorch
GitHub 中提及

基准测试

基准方法指标
out-of-distribution-detection-on-cifar-100-vsMaximum Logit Score (MLS)
AUROC: 83.2

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
开放集识别:一个优秀的闭集分类器就足够了吗? | 论文 | HyperAI超神经