3 个月前

面向常识问答的可泛化神经符号系统

面向常识问答的可泛化神经符号系统

摘要

非抽取式常识问答(non-extractive commonsense QA)仍是人工智能领域的一项具有挑战性的任务,因为它要求系统能够对分散的信息进行推理、整合与归纳,从而生成对查询的合理回答。近期的相关方法在性能上有所提升,但通常仅在模型经过额外信息的预训练,或引入特定领域的启发式规则时才能实现,而未充分考虑知识资源类型的差异。本文系统地调研了近年来的常识问答方法,并对多种主流知识资源及其知识融合策略在多个常识数据集基准上的表现进行了深入分析。研究结果与分析表明,基于注意力机制的知识注入方式在知识融合中更具优势,而知识库与数据集之间的领域重叠程度在决定模型性能方面起着至关重要的作用。

基准测试

基准方法指标
common-sense-reasoning-on-commonsenseqaRoBERTa+HyKAS Ma et al. (2019)
Accuracy: 73.2

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
面向常识问答的可泛化神经符号系统 | 论文 | HyperAI超神经