摘要

元训练（meta-training）通过在各类下游任务上最大化给定任务指令和输入实例条件下目标标签的似然度，对语言模型（LM）进行微调，显著提升了零样本任务泛化能力。然而，经过元训练的语言模型在面对包含元训练阶段未见过的新标签的挑战性任务时，仍难以实现有效泛化。本文提出了一种替代性的元训练方法——翻转学习（Flipped Learning），该方法训练语言模型根据输入实例和标签来生成对应的任务指令。在推理阶段，采用翻转学习训练的语言模型（称为Flipped）会选取最有可能生成该任务指令的标签选项。在BIG-bench基准测试的14项任务上，110亿参数规模的Flipped模型在平均性能上分别优于零样本T0-11B模型8.4个百分点，以及比参数量大16倍的三样本GPT-3（175B）模型9.7个百分点。尤其在包含未见标签的任务上，Flipped模型表现尤为突出，其平均F1得分相较T0-11B最高提升达20%。这一结果表明，Flipped模型强大的任务泛化能力主要源于其对新标签的更强泛化能力。相关代码已开源，地址为：https://github.com/seonghyeonye/Flipped-Learning。