摘要
双向LSTM（Bi-directional LSTM）是文本表示的强大工具。然而，由于其顺序性质，它们在实践中表现出各种局限性。本文研究了一种替代的LSTM结构，用于编码文本，该结构为每个单词设置了一个并行状态。通过递归步骤同时进行单词之间的局部和全局信息交换，而不是逐步读取单词序列。在多个分类和序列标注基准测试中的结果表明，所提出的模型具有强大的表示能力，在参数数量相似的情况下，其性能与堆叠的双向LSTM模型相比具有高度竞争力。
代码仓库
LahiruSen/S-LSTM_Sinhala
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| named-entity-recognition-ner-on-conll-2003 | S-LSTM | F1: 91.57 |
| part-of-speech-tagging-on-penn-treebank | S-LSTM | Accuracy: 97.55 |
| sentiment-analysis-on-imdb | S-LSTM | Accuracy: 87.15 |
| sentiment-analysis-on-mr | S-LSTM | Accuracy: 76.2 |