摘要

将用户问题准确转换为SQL查询（即文本到SQL任务）长期以来一直是一项挑战，因为该过程需要对用户问题以及对应数据库模式（schema）有深入的理解，才能准确检索所需内容。现有方法依赖于大型语言模型（LLMs）强大的综合能力来生成SQL语句。然而，部分必要知识并未明确包含在数据库模式或用户问题中，而是由LLMs在训练过程中隐式学习所得。因此，当面对知识不足的问题时，生成的SQL语句可能不准确，从而对文本到SQL模型的性能与鲁棒性产生负面影响。为应对这一挑战，我们提出了Knowledge-to-SQL框架，该框架引入了专门设计的数据专家大模型（Data Expert LLM, DELLM），旨在为所有文本到SQL模型提供有益的知识支持。具体而言，我们详细阐述了DELLM在表结构读取方面的实现方法以及基础微调流程。此外，我们进一步提出一种基于数据库反馈的偏好学习策略（Preference Learning via Database Feedback, PLDBF），通过利用数据库执行反馈对DELLM进行持续优化，使其能够生成更高质量、更有助于LLM理解与推理的知识。大量实验验证表明，DELLM能够显著提升现有先进文本到SQL方法的性能。相关代码已开源，以支持后续研究工作。