4 个月前

每个节点都很重要:用于半监督学习的自集成图卷积网络

每个节点都很重要:用于半监督学习的自集成图卷积网络

摘要

图卷积网络(GCN)为基于图的半监督任务提供了一种强大的手段。然而,作为谱图卷积的局部一阶近似,经典的GCN无法充分利用未标记数据,特别是在未标记节点远离已标记节点的情况下。为了利用未标记节点的信息来增强GCN的训练效果,我们提出了一种名为自集成图卷积网络(Self-Ensembling GCN, SEGCN)的新框架,该框架将GCN与半监督学习中的另一强大模型——均值教师(Mean Teacher)相结合。SEGCN包含一个学生模型和一个教师模型。作为学生模型,它不仅学习正确分类已标记节点,还试图在更具挑战性的条件下(如高dropout率和图退化)与教师模型在未标记节点上保持一致。作为教师模型,它通过平均学生模型的权重生成更准确的预测来引导学生模型。在这种相互促进的过程中,有标签和无标签样本都能被充分用于反向传播有效的梯度以训练GCN。我们在三个文章分类任务中验证了所提出方法的有效性,即CiteSeer、Cora和PubMed,在这些任务中我们的方法达到了当前最先进的分类精度。

代码仓库

RoyalVane/SEGCN
官方
pytorch

基准测试

基准方法指标
node-classification-on-citeseer-with-publicSEGCN
Accuracy: 73.4 ± 0.7
node-classification-on-coraSEGCN
Accuracy: 83.5% ± 0.4%
node-classification-on-cora-fixed-20-node-perSEGCN
Accuracy: 83.5 ± 0.4
node-classification-on-pubmed-with-publicSEGCN
Accuracy: 78.9 ± 0.7

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
每个节点都很重要:用于半监督学习的自集成图卷积网络 | 论文 | HyperAI超神经