摘要

自然语言推理长期以来一直是研究社区的重要目标。然而，已有研究表明，现有语言模型在推理能力方面存在明显不足。为解决这一问题，本文提出一种新颖的推理预训练范式——POET。通过使用程序及其执行结果对语言模型进行预训练，POET 采用数据驱动的方式，使语言模型能够从程序执行器中获取推理知识。POET 在概念上简洁明了，可由多种类型的程序执行器实现。本文展示了两个简单实例：POET-Math 与 POET-Logic，以及一个复杂实例：POET-SQL。在六个基准测试上的实验结果表明，POET 能显著提升模型在自然语言推理任务中的表现，涵盖数值推理、逻辑推理以及多跳推理等多种类型。POET 为增强推理能力的预训练开辟了新路径，我们期望本研究的分析能为未来基于程序执行器的推理研究提供有益启示。