3 个月前

通过辅助监督任务提升编码器以实现表格到文本的生成

通过辅助监督任务提升编码器以实现表格到文本的生成

摘要

表格到文本生成旨在自动生成自然语言文本,帮助用户便捷地获取表格中的关键信息。尽管现有的神经网络模型在表格到文本生成任务上已取得显著进展,但仍存在一些被忽视的问题。以往的方法无法基于实体(如球员或球队)的表现及其之间的关系推导出事实性结论。为解决这一问题,我们首先从输入表格构建实体图谱,并引入一个推理模块在图谱上执行推理。此外,不同维度的记录之间存在多种关系(如数值大小关系和重要性关系),这些关系可能有助于提升数据到文本的生成质量。然而,传统的编码器难以有效捕捉这些复杂关系。为此,我们提出引入两个辅助任务——数值排序(Number Ranking, NR)和重要性排序(Importance Ranking, IR),以监督编码器学习并建模这些差异化的语义关系。在ROTOWIRE和RW-FG数据集上的实验结果表明,所提方法不仅具备良好的泛化能力,且在多个评价指标上优于先前方法,包括BLEU、内容选择(Content Selection)和内容排序(Content Ordering)。

基准测试

基准方法指标
data-to-text-generation-on-rotowireHierarchicalEncoder + NR + IR
BLEU: 17.96
table-to-text-generation-on-rotowireHierarchicalEncoder + NR + IR
Content Ordering: 25.30
Content Selection (F1): 55.88
BLEU: 17.96

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
通过辅助监督任务提升编码器以实现表格到文本的生成 | 论文 | HyperAI超神经