摘要

图卷积网络在基于图的半监督学习中取得了显著进展。现有方法通常假设通过图边相连的节点具有相似的属性和标签，因此通过局部图结构平滑后的特征能够揭示类别之间的相似性。然而，在许多现实场景中，图结构与标签之间往往存在不匹配现象，图结构可能传播误导性的特征或标签，从而最终影响模型性能。本文提出一种多任务自蒸馏框架，将自监督学习与自蒸馏机制引入图卷积网络，分别从结构侧和标签侧解决这一不匹配问题。首先，我们设计了一种基于预训练任务（pre-text tasks）的自监督流程，用于捕捉图中不同层次的相似性。通过联合优化预训练任务与目标任务，促使特征提取过程能够捕获更复杂的局部邻近关系，从而从结构层面提升局部特征聚合的质量。其次，自蒸馏利用模型自身生成的软标签作为额外监督信号，其效果类似于标签平滑（label smoothing）。分类分支与自监督分支所蕴含的知识被联合蒸馏，从而从标签侧增强模型的泛化能力。实验结果表明，所提出的方法在多种经典的图卷积网络架构上均取得了显著的性能提升。