近日，实验室2021级博士生闫建荣（导师蒋文斌教授）的论文 “FrBGNN: Accelerating GNN Training by Concurrent Backward Gradients Computations on GPU”被 ACM Transactions on Architecture and Code Optimization（TACO） 期刊录用。

随着图神经网络在社交网络、推荐系统和知识图谱等领域的广泛应用，大规模GNN（Graph Neural Network，图神经网络）训练效率已成为制约其实际部署的重要因素。然而，现有GNN加速方法大多集中于前向传播中的稀疏聚合算子优化，对反向传播阶段多个梯度算子之间复杂依赖关系关注不足。论文提出了一种面向前向与反向传播的GNN加速框架FrBGNN。该方法通过构建反向传播梯度依赖的加权有向无环图，识别由中间梯度和输出梯度构成的关键梯度路径，并将关键路径上的梯度算子融合为统一的数据流执行过程，使中间梯度块能够在片上内存中被后续算子直接计算。同时，论文提出Pull-to-Push数据流转换机制，并结合多流异步调度，将非关键路径梯度与主梯度传播路径并发执行，从而减少DRAM（Dynamic Random Access Memory，动态随机存取存储器）访问、内存同步和运行时调度开销。基于GCN、GIN和GAT等典型模型以及多个真实图数据集的实验结果表明，FrBGNN在保持模型收敛精度不变的前提下显著提升了GNN训练性能，端到端训练性能最高可提升至6.4倍，并有效降低DRAM数据访问量和提升片上数据复用效率。

ACM TACO是计算机体系结构领域最权威的国际学术期刊之一，关注计算机体系结构与代码优化等方向的硬件、软件和系统研究，是中国计算机学会（CCF）推荐的A类期刊。

（通讯员：闫建荣）