3 个月前

对比学习在提升分布外检测性能中的应用

对比学习在提升分布外检测性能中的应用

摘要

可靠地检测分布外(out-of-distribution, OOD)输入,正逐渐被视为机器学习系统部署的前提条件。本文提出并系统研究了一种基于对比学习(contrastive training)的方法,以提升OOD检测性能。与现有主流OOD检测方法不同,本方法无需依赖显式标注为OOD的样本,而这类样本在实际应用中往往难以获取。通过大量实验验证,我们发现对比学习在多个常用基准测试上显著提升了OOD检测的性能。此外,本文引入并应用了“混淆对数概率”(Confusion Log Probability, CLP)评分,该指标通过衡量正常数据与异常数据之间的相似程度,量化了OOD检测任务的难度。实验结果表明,该方法在“近似分布外”(near OOD)类别上表现尤为突出,而这一场景正是以往方法面临重大挑战的典型情形。

基准测试

基准方法指标
out-of-distribution-detection-on-cifar-100-vsJoint contrastive and supervised training
AUROC: 78.3

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
对比学习在提升分布外检测性能中的应用 | 论文 | HyperAI超神经