3 个月前

用于组合泛化的代数重组学习

用于组合泛化的代数重组学习

摘要

神经序列模型在语义解析任务中表现出有限的组合泛化能力。组合泛化要求进行代数重组合,即以递归方式动态重组结构化表达式。然而,以往大多数研究主要聚焦于词法单元的重组合,这虽然是代数重组合的重要组成部分,但并非充分条件。本文提出LeAR,一种端到端的神经模型,用于学习代数重组合以实现组合泛化。其核心思想是将语义解析任务建模为潜在句法代数与语义代数之间的同态映射,从而促进代数重组合的实现。具体而言,我们联合学习两个模块:用于生成潜在句法的Composer模块,以及用于赋予语义操作的Interpreter模块。在两个真实且全面的组合泛化基准上的实验结果证明了所提模型的有效性。项目源代码已公开,可访问 https://github.com/microsoft/ContextualSP。

代码仓库

thousfeet/lear
pytorch
GitHub 中提及
microsoft/ContextualSP
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
semantic-parsing-on-cfqLeAR
Exact Match: 90.9

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于组合泛化的代数重组学习 | 论文 | HyperAI超神经