摘要

情境常识推理是指在二人对话中生成各种类型的解释，包括事件的原因、动机、情感反应等。生成连贯且非平凡的解释需要对对话结构以及事件如何基于上下文进行定位有深刻的认识。在这项工作中，我们创建了CICEROv2数据集，该数据集包含来自2,379个对话的8,351个实例，每个情境常识推理问题都有多个由人类撰写的答案，代表了对原因、后续事件、动机和情感反应的解释类型。我们展示了CICEROv2中的推理比其他情境常识推理数据集在语义上更加多样化。为了解决这一推理任务，我们提出了一组预训练目标，包括概念去噪和话语排序，以准备预训练模型用于下游的情境常识推理任务。我们的实验结果表明，所提出的预训练目标在适应T5-Large模型进行情境常识推理任务方面是有效的。