3 个月前

针对声事件检测任务,微调预训练的ATST模型

针对声事件检测任务,微调预训练的ATST模型

摘要

声事件检测(Sound Event Detection, SED)通常面临数据不足的问题。在DCASE2023挑战赛任务4的最新基线系统中,研究者采用大规模预训练自监督学习(Self-Supervised Learning, SelfSL)模型以缓解这一限制,其中预训练模型有助于生成更具判别性的特征,从而提升SED性能。然而,在该挑战的基线系统及多数参赛方案中,预训练模型通常被视为固定的特征提取器,对预训练模型进行微调的研究极为有限。本文针对预训练模型在SED任务中的微调方法展开深入研究。我们首先将新提出的SelfSL模型ATST-Frame引入SED系统。ATST-Frame专为学习音频信号的帧级表示而设计,在一系列下游任务中取得了当前最优(State-of-the-Art, SOTA)性能。随后,我们提出一种基于(领域内)未标注与标注SED数据相结合的ATST-Frame微调方法。实验结果表明,该方法有效缓解了在微调大型预训练网络时常见的过拟合问题,所提出的SED系统在DCASE挑战赛任务4数据集上取得了新的SOTA性能,PSDS1/PSDS2评分分别为0.587和0.812。

代码仓库

Audio-WestlakeU/ATST-SED
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
sound-event-detection-on-desedATST-SED
PSDS1: 0.583
PSDS2: 0.810
event-based F1 score: 63.4

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
针对声事件检测任务,微调预训练的ATST模型 | 论文 | HyperAI超神经