3 个月前

CTLR@WiC-TSV:基于标记输入与预训练模型的目标义项验证

CTLR@WiC-TSV:基于标记输入与预训练模型的目标义项验证

摘要

本文介绍了CTRL团队在SemDeep6会议举办的“上下文中的词义消歧验证”挑战赛(WiC-TSV)中的参与情况。我们的方法基于一种简化的目标词标注方案,随后利用已知的预训练神经模型进行分类。特别地,通过引入标记(marker)机制,模型能够获取位置信息,从而更准确地识别需要消歧的目标词。在挑战赛中的实验结果表明,我们的方法在性能上优于其他参赛者(准确率提升11.4个百分点),同时也显著超越了多个强基线模型(准确率提升1.7个百分点)。

基准测试

基准方法指标
entity-linking-on-wic-tsvCTLR
Task 1 Accuracy: all: 76.8
Task 1 Accuracy: domain specific: 79.6
Task 1 Accuracy: general purpose: 74.5
Task 2 Accuracy: all: 72.7
Task 2 Accuracy: domain specific: 81.5
Task 2 Accuracy: general purpose: 65.6
Task 3 Accuracy: all: 78.3
Task 3 Accuracy: domain specific: 85.7
Task 3 Accuracy: general purpose: 72.1

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
CTLR@WiC-TSV:基于标记输入与预训练模型的目标义项验证 | 论文 | HyperAI超神经