摘要

近年来，图神经网络（GNNs）在建模结构化数据方面取得了显著的成功。然而，大多数图神经网络都是为同质图设计的，在这些图中所有节点和边都属于同一类型，这使得它们无法表示异质结构。本文提出了一种用于建模Web规模异质图的异质图变换器（HGT）架构。为了建模异质性，我们设计了依赖于节点类型和边类型的参数来表征每条边上的异质注意力机制，从而使HGT能够为不同类型的节点和边保持专门的表示。为了处理动态异质图，我们将相对时间编码技术引入HGT，该技术能够捕捉具有任意持续时间的动态结构依赖关系。为了处理Web规模的图数据，我们设计了一种异质小批量图采样算法——HGSampling——以实现高效且可扩展的训练。在包含1.79亿个节点和20亿条边的开放学术图上进行的大量实验表明，所提出的HGT模型在各种下游任务上始终优于最先进的GNN基线模型，性能提升幅度为9%至21%。