3 个月前

视觉语音识别在驾驶员辅助系统中的应用

视觉语音识别在驾驶员辅助系统中的应用

摘要

视觉语音识别或自动唇读是近年来备受关注的研究领域。视频数据在多模态语音识别中展现出显著价值,尤其在声学信号严重噪声干扰甚至无法获取的情况下。本文提出了一种全新的视觉语音识别方法,并在著名的LRW唇读数据集上进行了基准测试,性能优于现有各类方法。经过全面评估后,我们将该方法进一步优化,并应用于我们实地采集的RUSAVIC语料库——该语料库专为车辆驾驶员在真实驾驶环境下录制。实验结果表明,所提方法不仅表现出优异的识别性能,更验证了仅依靠视频模态实现语音识别的可行性,即使在驾驶这类复杂自然场景中亦具备实际应用潜力。

基准测试

基准方法指标
lipreading-on-lip-reading-in-the-wildVosk + MediaPipe + LS + MixUp + SA + 3DResNet-18 + BiLSTM + Cosine WR
Top-1 Accuracy: 88.7

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
视觉语音识别在驾驶员辅助系统中的应用 | 论文 | HyperAI超神经