摘要

图变换器通常缺乏三阶交互作用，这限制了它们在分子几何预测等任务中所需的几何理解能力。我们提出了一种三元图变换器（Triplet Graph Transformer, TGT），通过新颖的三元注意力和聚合机制，实现了节点三元组内成对节点之间的直接通信。TGT 首先从二维图中预测原子间距离，然后利用这些距离进行下游任务，应用于分子性质预测。一种新的三阶段训练过程和随机推理进一步提高了训练效率和模型性能。我们的模型在公开挑战基准 PCQM4Mv2 和 OC20 IS2RE 上取得了最新的最佳结果（State-of-the-Art, SOTA）。通过迁移学习，我们在 QM9、MOLPCBA 和 LIT-PCBA 分子性质预测基准上也获得了 SOTA 结果。此外，我们还通过在旅行商问题（Traveling Salesman Problem, TSP）上的 SOTA 结果展示了 TGT 的通用性。