摘要

为应对大型语言模型在自然语言到SQL任务中的性能挑战，我们引入了XiYan-SQL，这是一种创新框架，采用了多生成器集成策略以提高候选查询的生成效果。我们提出了M-Schema，一种半结构化的模式表示方法，旨在增强对数据库结构的理解。为了提升生成候选SQL查询的质量和多样性，XiYan-SQL将上下文学习（ICL）的巨大潜力与监督微调的精确控制相结合。一方面，我们提出了一系列训练策略，以微调模型生成高质量且具有多样偏好的候选查询；另一方面，我们通过基于命名实体识别的示例选择方法实现了ICL方法的应用，防止过度关注实体。精炼器通过纠正逻辑或语法错误来优化每个候选查询。为了应对识别最佳候选查询的挑战，我们微调了一个选择模型以区分候选SQL查询之间的细微差别。多个方言数据集上的实验结果表明，XiYan-SQL在不同场景中具有强大的鲁棒性。总体而言，所提出的XiYan-SQL在Bird基准测试中达到了75.63%的执行准确率，在Spider测试集中达到了89.65%的执行准确率，在SQL-Eval上达到了69.86%的执行准确率，在NL2GQL上达到了41.20%的执行准确率。该框架不仅提升了SQL查询的质量和多样性，还超越了以往的方法。