摘要

上下文相关的词表示能够根据词语在不同语境中的含义生成不同的表示形式，已在问答、命名实体识别和情感分析等下游自然语言处理任务中展现出显著有效性。然而，以往研究在词义消歧（Word Sense Disambiguation, WSD）任务上的评估表明，使用上下文相关的词表示并未优于依赖非上下文词向量的最先进方法。本文探讨了多种融合预训练上下文词表示的策略，其中最优策略在多个基准WSD数据集上的准确率显著超越了此前发表的最佳结果。相关源代码已开源，地址为：https://github.com/nusnlp/contextemb-wsd。