4 个月前

具有循环神经滤波器的卷积神经网络

具有循环神经滤波器的卷积神经网络

摘要

我们介绍了一类利用递归神经网络(RNNs)作为卷积滤波器的卷积神经网络(CNNs)。通常情况下,卷积滤波器的实现方式是线性仿射变换后接一个非线性函数,这种方式无法充分考虑语言的组合性。因此,它限制了高阶滤波器在自然语言处理任务中的应用,而这些任务往往需要高阶滤波器。在这项工作中,我们使用递归神经网络来建模卷积滤波器,这种模型能够自然地捕捉语言的组合性和长程依赖关系。实验结果表明,配备递归神经滤波器(RNFs)的简单CNN架构在斯坦福情感树库和两个答案句子选择数据集上的表现与已发表的最佳结果相当。

代码仓库

bloomberg/cnn-rnf
官方
tf
GitHub 中提及
davide97l/Sentiment-analysis
pytorch
GitHub 中提及

基准测试

基准方法指标
sentiment-analysis-on-sst-2-binaryCNN-RNF-LSTM
Accuracy: 90.0
sentiment-analysis-on-sst-5-fine-grainedCNN-RNF-LSTM
Accuracy: 53.4

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
具有循环神经滤波器的卷积神经网络 | 论文 | HyperAI超神经