摘要

我们描述了IBM英语会话电话语音识别系统的最新改进。一些被证明有益的技术包括：带有退火丢弃率的Maxout网络；在2000小时数据上训练的具有大量输出的网络；通过结合瓶颈层和输出层对部分展开的循环神经网络和卷积网络进行联合建模，并重新训练生成的模型；最后，使用指数语言模型和神经网络语言模型进行复杂的语言模型重评分。这些技术使得在Hub5-2000评估测试集的Switchboard部分中，单词错误率达到了8.0%，相比我们之前公布的最佳结果相对提高了23%。