摘要

词语义项归纳（Word Sense Induction, WSI）是指在句子中对词语的使用进行无监督聚类以区分其不同意义的任务。近期的研究通过聚类从预训练的循环神经网络语言模型（如ELMo）中提取的词汇替代词，取得了显著的结果。将该方法应用于BERT进一步提高了得分。我们扩展了先前的方法，支持动态而非固定的聚类数量，这与其他著名方法所支持的一致，并提出了一种通过将其与最具信息量的替代词关联来解释所得聚类的方法。随后，我们进行了广泛的错误分析，揭示了WSI任务中仍存在的错误来源。我们的代码可在https://github.com/asafamr/bertwsi 获取。