摘要

近年来，由于在提升神经网络安全部署方面的实际重要性，分布外（Out-of-Distribution, OOD）检测受到了广泛关注。其中一项主要挑战是，模型在面对分布外数据时往往仍会给出高度自信的预测结果，这违背了OOD检测的核心原则——模型仅应对分布内样本保持高置信度。针对这一问题，本文提出ReAct：一种简单而有效的技术，用于降低模型在分布外数据上的过度自信。我们的方法基于对神经网络内部激活行为的全新分析，发现分布外数据在激活模式上呈现出显著且独特的特征指纹。该方法具有良好的泛化能力，可适用于多种网络架构及不同的OOD检测评分机制。我们通过大量实验验证了ReAct在一系列标准基准数据集上实现了具有竞争力的检测性能，并从理论上阐释了其有效性。在ImageNet基准测试中，与此前最优方法相比，ReAct将假阳性率（FPR95）降低了25.05%。