GNN论文周报｜来自麻省理工、清华大学、吉林大学、中山大学等机构前_

图神经网络（GNN）是一类专门针对图结构数据的神经网络模型，在社交网络分析、知识图谱等领域中取得了不错的效果。近来，相关研究人员在GNN的可解释性、架构搜索、对比学习等方面做了很多探究。

本周精选了10篇GNN领域的优秀论文，来自麻省理工、清华大学、吉林大学、中山大学等机构。

为了方便大家阅读，只列出了论文标题、作者、AI华同学综述等信息，如果感兴趣可扫码查看原文，PC端数据同步（收藏即可在PC端查看），每日新论文也可登录小程序（AMiner订阅）查看。

1.Generative Pretrained Autoregressive Transformer Graph Neural Network applied to the Analysis and Discovery of Novel Proteins

作者：Markus J. Buehler

链接：https://www.aminer.cn/pub/645c5e3fd68f896efa22c541/

AI综述（大模型驱动）：本文介绍了一种基于深度学习策略的灵活语言模型,用于在蛋白质建模中解决复杂的正向逆向问题。基于在因果多头图机制中集成transformer和图卷积架构的注意力神经网络，以实现预训练生成模型。该模型应用于预测二级结构含量（每个残基水平和总含量）、蛋白质溶解度和测序任务，在逆向任务上进一步训练，使模型能够设计具有这些属性的蛋白质作为目标特征。该模型被设计为一个通用框架，完全基于prompt,并可用于各种下游任务。本文提出了实验结果,证明了该方法的有效性。

2.GNNs,You can be Stronger,Deeper and Faster

作者：Jingbo Zhou,Yixuan Du,Ruqiong Zhang,Rui Zhang,Di Jin,Carl Yang

链接：https://www.aminer.cn/pub/645c5e40d68f896efa22c74c/

AI综述（大模型驱动）：众所周知，图神经网络的性能随着层数的增加，网络（GNN）逐渐退化。本文提出了一种新的方法来理解图神经网络(GNN)的表达能力。通过k-hop子图聚合,我们揭示了深层传统的GNN性能下降的潜在原因，并提供了一种新的基于采样的节点级残差模块，称为SDF。实验结果表明,与以前的剩余方法相比,具有SDF模块的GNN性能和效率优于其他方法。

3.From Relational Pooling to Subgraph GNNs: A Universal Framework for More Expressive Graph Neural Networks

作者：Cai Zhou,Xiyuan Wang,Muhan Zhang

链接：https://www.aminer.cn/pub/645c5e3fd68f896efa22c561/

AI综述（大模型驱动）：本文提出了一种关系池化框架,用于提高图神经网络的表达能力。从Relational pooling (RP)开始,我们提出显式地将标签分配为节点作为额外特征,以提高信息传递神经网络的表达能力。该方法扩展到高维WL,产生了一个新的k,l-WL算法,是一种更通用框架。理论上,我们分析了k,l-WL的表达能力,并将其与大量子图GNN统一起来。我们还系统地讨论了复杂性降低的方法，以构建强大和实用的k,l-GNN实例。

4.LSGNN: Towards General Graph Neural Network in Node Classification by Local Similarity

作者：Yuhan Chen,Yihong Luo,Jing Tang,Liang Yang,Siya Qiu,Chuan Wang,Xiaochun Cao

链接：https://www.aminer.cn/pub/6459ac64d68f896efa658b58/

AI综述（大模型驱动）：异质性被认为是影响图神经网络 (GNN) 性能的问题。本文提出了一种基于局部相似度的图神经网络(LSGNN)方法, 我们建议使用局部相似性（LocalSim）来学习节点级加权融合，它也可以作为即插即用模块。为了更好地融合，我们提出了一种新颖高效的初始残差连接 (IRDC) 来提取更多信息丰富的多跳信息，该方法可以在同质和异质图上提供可比或优于最先进的性能。同时,该模型可以显著提高现有GNNs的性能。通过对真实基准数据集进行广泛的评估,证明了该方法的可行性。

5.Beyond Homophily: Reconstructing Structure for Graph-agnostic Clusterin

作者：Erlin Pan,Zhao Kang

链接：https://www.aminer.cn/pub/6456389cd68f896efacf6d4b/

AI综述（大模型驱动）：本文提出了一种基于图神经网络(GNN)的图聚类方法,包括图重构、混合过滤和双图聚类网络。为了与图无关，我们凭经验从每个数据构建了两个高度同质和异质的图。基于新图的混合滤波器提取低频和高频信息。为了减少节点属性和拓扑结构之间的逆耦合，我们将它们分别映射到对偶图聚类网络中的两个子空间。在11个基准图上进行的大量实验表明,该方法优于其他几种聚类方法。

6.CSGCL: Community-Strength-Enhanced Graph Contrastive Learning

作者：Han Chen,Ziwen Zhao,Yuhua Li,Yixiong Zou,Ruixuan Li,Rui Zhang

链接：https://www.aminer.cn/pub/6459ac6bd68f896efa65926d/

AI综述（大模型驱动）：本文提出了一个社区力量增强的图对比学习框架。首先,我们提出了两种新的图扩展方法,公共属性投票和公共边删除。其次，我们提出了一个动态的“团队合作”对比学习方案，其中使用社区强度逐步微调对比目标。在三个底层任务上进行了广泛的实验结果,包括节点分类、节点聚类和链接预测。CSGCL与其他GCL方法相比具有最先进的性能,验证了社区强度为图表示提供了有效性和通用性。

7.Efficient and Degree-Guided Graph Generation via Discrete Diffusion Modeling

作者：Xiaohui Chen,Jiaxing He,Xu Han,Li-Ping Liu

链接：https://www.aminer.cn/pub/6459ac63d68f896efa658ac7/

AI综述（大模型驱动）：本文提出了一种新的基于扩散的生成图模型EDGE,它解决了具有数千个节点的大量图的生成任务。为了提高计算效率, 我们通过使用离散扩散过程来鼓励图稀疏性，该过程在每个时间步随机删除边并最终获得一个空图。EDGE只关注每个去噪阶段的图中的一个部分,并且比以前的方法减少了许多边缘预测,进一步提高了模型性能。实验证明,与竞争方法相比,EDGE在生成能力上更有效,并可以生成具有数千个节点的大型图。

8.Contrastive Graph Clustering in Curvature Spaces

作者：Li Sun,Feiyang Wang,Junda Ye,Hao Peng,Philip S. Yu

链接：https://www.aminer.cn/pub/6459ac63d68f896efa6587fc/

AI综述（大模型驱动）：我们从几何角度重新思考图聚类问题，据我们所知，首次尝试将异构曲率空间引入图聚类问题。我们提出了一种名为 CONGREGATE 的新型端到端对比图聚类模型，解决了具有 Ricci 曲率的几何图聚类问题。该模型通过建立一个理论基础的异构曲率空间来支持几何图聚类, 其中深度表示是通过所提出的完全黎曼图卷积网络的乘积生成的。实证结果表明,该模型在真实图上的表现优于最先进的竞争对手。

9.Self-Repellent Random Walks on General Graphs - Achieving Minimal Sampling Variance via Nonlinear Markov Chains

作者：Vishwaraj Doshi,Jie Hu,Do Young Eun

链接：https://www.aminer.cn/pub/645c5e3fd68f896efa22c600/

AI综述（大模型驱动）：我们考虑离散状态空间上的随机游走，例如一般的无向图，其中随机游走器被设计为通过马尔可夫链蒙特卡洛 (MCMC) 程序形式的采样和邻域探索来近似网络拓扑上的目标量。给定对应于目标概率分布的任何马尔可夫链，我们设计了一种自排斥随机游走（SRRW），它不太可能转移到过去访问次数最多的节点，而更有可能转移到很少访问的节点。10.FAENet: Frame Averaging Equivariant GNN for Materials Modeling

作者：Alexandre Duval,Victor Schmidt,Alex Hernandez Garcia,Santiago Miret,Fragkiskos D. Malliaros,Yoshua Bengio,David Rolnick

链接：https://www.aminer.cn/pub/645c5e40d68f896efa22c843/

AI综述（大模型驱动）：在材料建模中，图神经网络 (GNN)通过模型架构强制实施对称性，这通常会降低它们的表现力、可扩展性和可理解性。本文提出一种框架，依赖随机帧平均 (SFA) 通过数据转换使任何模型 E(3) 等变或不变，引入FAENet：一种简单、快速、高效的GNN模型，针对 SFA 进行了优化，可在没有任何对称性保留设计约束的情况下处理几何信息。在材料建模中展现出了较高的准确性和计算可扩展性。

— end —

本期内容志愿者：程煜晴

新疆大学软件工程专业大四学生，主要研究兴趣为自然语言处理、知识图谱、数据挖掘等，现推免至中央音乐学院音乐人工智能与音乐信息科技系。