3 个月前

跨模态信息融合在语音欺骗检测中的应用

跨模态信息融合在语音欺骗检测中的应用

摘要

近年来,说话人验证系统已被广泛应用于多种实际场景。然而,这些系统仍极易受到各类欺骗攻击的影响,例如语音合成攻击、重放攻击等。尽管研究人员已提出多种防御方法,但现有方法大多仅关注语音特征本身。近期研究表明,语音中蕴含着丰富的面部信息,事实上,仅通过语音即可推断说话人的性别、年龄、口型等特征。这些信息有助于有效区分欺骗攻击。受此现象启发,本文提出一种通用框架——GACMNet。为应对不同的攻击场景,我们构建了两种不同的模型实例。该框架主要分为数据预处理、特征提取、特征融合与分类四个阶段。具体而言,框架包含两条并行分支:一方面,利用卷积神经网络从语音中提取面部特征;另一方面,采用密集连接网络提取语音特征。此外,我们设计了一种基于全局注意力机制的信息融合方法,以有效区分各特征部分的重要性。实验结果表明,该方法在两个大规模场景下均表现出显著性能提升。在逻辑访问场景中,相较于现有方法,本模型在联合决策代价函数(t-DCF)和等错误率(EER)指标上分别提升了9%和11%;在物理访问场景中,EER指标提升了10%。实验验证了所提方法的有效性与鲁棒性。

基准测试

基准方法指标
voice-anti-spoofing-on-asvspoof-2019-laLFCC&Face+SE-DenseNet+A-softmax
EER: 2.73
min t-dcf: 0.0713
voice-anti-spoofing-on-asvspoof-2019-paCQT&Face+SE-Res2Net+log-softmax
EER: 0.85
min t-dcf: 0.0230

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
跨模态信息融合在语音欺骗检测中的应用 | 论文 | HyperAI超神经