3 个月前

基于大语言模型的组合语义解析

基于大语言模型的组合语义解析

摘要

人类在面对新任务时能够进行组合性推理。先前的研究表明,采用合适的提示(prompting)技术可使大型语言模型(LLMs)解决诸如SCAN等人工设计的组合泛化任务。在本研究中,我们识别出在词汇量更大、更具现实性的语义解析任务中所面临的额外挑战,并对这些提示技术进行了优化以应对这些挑战。我们提出的最佳方法基于“由简至繁”提示策略:首先利用基于提示的句法解析对问题进行分解,随后根据该分解结果选择合适的示例,并逐步生成语义解析。该方法在CFQ基准上取得了新的最优性能,同时仅需传统方法所用训练数据的1%。由于本方法具有较强的通用性,我们预期其在其他任务和领域中亦可带来类似突破,尤其在知识密集型应用中具有广阔前景。

基准测试

基准方法指标
semantic-parsing-on-cfqDynamic Least-to-Most Prompting
Exact Match: 95.0

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于大语言模型的组合语义解析 | 论文 | HyperAI超神经