摘要

本研究利用社区结构，通过可学习的图增强机制与新型图变压器（graph transformers），有效缓解消息传递（message-passing, MP）框架中的节点度偏差问题。近年来，基于增强的方法表明，MP神经网络在低度节点上的表现通常较差，其根本原因在于低度节点难以接收到足够的消息，从而导致度偏差。尽管这些方法取得了一定成功，但大多数现有方法依赖启发式或均匀随机的增强策略，这类方法不可微，且生成的边未必对表征学习具有实际价值。本文提出一种面向社区结构的图变压器——社区感知图变压器（Community-aware Graph Transformer, CGT），通过可学习的图增强与图变压器机制，学习对节点度不敏感的表征。具体而言，本文提出三项核心创新：首先，设计一种可学习的图增强方法，通过边扰动机制生成更多连接低度节点的社区内边，以增强低度节点的信息传递能力；其次，提出一种改进的自注意力机制，用于捕捉节点在社区内部的潜在邻近关系及其角色特征；第三，设计一种自监督学习任务，以保留图的全局结构信息，并对图增强过程进行正则化。在多个基准数据集上的大量实验结果表明，CGT显著优于当前最先进的基线方法，并有效缓解了节点度偏差问题。相关源代码已公开，地址为：https://github.com/NSLab-CUK/Community-aware-Graph-Transformer。