摘要

分布外（Out-of-Distribution, OoD）检测对于构建安全的人工智能系统至关重要。然而，现有的OoD检测方法在实际部署中仍难以满足性能要求。本文提出了一种简单而有效的算法，其核心基于一个新颖的观察：在训练完成的神经网络中，具有有界范数的OoD样本在特征空间中会高度聚集。我们称这类OoD特征的中心为“特征空间奇异点”（Feature Space Singularity, FSS），并将样本特征到FSS的距离定义为FSSD（FSS Distance）。通过在FSSD上设定阈值，即可实现对OoD样本的有效识别。我们对这一现象的理论分析揭示了该算法的工作原理。实验结果表明，我们的方法在多个主流OoD检测基准上均达到了当前最优性能。此外，FSSD对测试数据中的轻微噪声或退化具有良好的鲁棒性，并可通过集成（ensembling）进一步提升性能。这些特性使FSSD成为一种极具潜力、适用于现实场景的OoD检测算法。相关代码已开源，地址为：\url{https://github.com/megvii-research/FSSD_OoD_Detection}。