4 个月前

遵循规则:利用大型语言模型进行视频异常检测的推理

遵循规则:利用大型语言模型进行视频异常检测的推理

摘要

视频异常检测(VAD)在安全监控和自动驾驶等应用中至关重要。然而,现有的VAD方法在检测背后的理由方面提供的信息很少,这阻碍了其在实际部署中的公众信任。本文提出了一种基于推理框架的方法来解决这一问题。尽管大型语言模型(LLMs)已经展示了革命性的推理能力,但我们发现它们的直接应用在VAD上存在不足。具体来说,预训练在LLMs中的隐性知识主要集中在一般上下文中,因此可能不适用于每一个具体的现实世界VAD场景,导致灵活性和准确性不足。为了解决这一问题,我们提出了AnomalyRuler,这是一种新型的基于规则的推理框架,用于结合LLMs进行视频异常检测。AnomalyRuler包括两个主要阶段:归纳和演绎。在归纳阶段,LLM接收少量正常参考样本,并总结这些正常模式以生成一套用于检测异常的规则。演绎阶段则根据生成的规则识别测试视频中的异常帧。此外,我们设计了规则聚合、感知平滑和鲁棒推理策略,以进一步增强AnomalyRuler的鲁棒性。AnomalyRuler是首个针对单类VAD任务的推理方法,仅需少量正常样本提示而无需进行全面训练,从而能够快速适应各种VAD场景。我们在四个VAD基准数据集上的全面实验表明,AnomalyRuler具有最先进的检测性能和推理能力。AnomalyRuler已开源,并可在以下地址获取:https://github.com/Yuchen413/AnomalyRuler

代码仓库

Yuchen413/AnomalyRuler
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
anomaly-detection-on-chuk-avenueAnomalyRuler
AUC: 89.7%
anomaly-detection-on-shanghaitechAnomalyRuler
AUC: 85.2%
anomaly-detection-on-ubnormalAnomalyRuler
AUC: 71.9%
anomaly-detection-on-ucsd-ped2AnomalyRuler
AUC: 97.9%
video-anomaly-detection-on-cuhk-avenueAnomalyRuler
AUC: 89.7%
video-anomaly-detection-on-shanghaitech-4AnomalyRuler
AUC: 85.2%
video-anomaly-detection-on-ubnormalAnomalyRuler
AUC: 71.9%
video-anomaly-detection-on-ucsd-ped2-1AnomalyRuler
AUC: 97.9%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
遵循规则:利用大型语言模型进行视频异常检测的推理 | 论文 | HyperAI超神经