LOGO LOGO
博士生吴文超的论文被分布式系统领域顶刊TPDS录用
时间:2023-03-31 10:15:32

近日,博士生吴文超(导师金海教授)的论文“TurboMGNN: Improving Concurrent GNN Training Tasks on GPU with Fine-grained Kernel Fusion”被分布式系统领域顶级期刊  IEEE Transactions on Parallel and Distributed Systems(IEEE TPDS)录用。

随着图神经网络(Graph Neural Network,GNN)在多个领域(例如节点分类,链路预测等)取得了优异性能表现,并发多任务GNN训练,作为一个新的场景,在网路结构搜索(Network Architecture Search, NAS)中变得越发常见和重要。现有的GNN系统工作主要集中于单个GNN训练任务优化,忽略了并发任务之间的共性,造成大量的冗余计算和内存访问。鉴于此,论文首次提出了针对并发GNN训练的多任务协调机制,通过基于稀疏矩阵乘法的细粒度算子融合,正反向算子融合以及运行时动态分组和调度机制,从而有效消除并发任务之间的冗余计算和访存开销,提升kernel执行性能,并减少无序的资源竞争。论文从kernel(单个内核)性能和端到端执行时间两个角度,在常用的数据集和模型上评估了提出的方法的有效性。

IEEE TPDS期刊是计算机系统结构/并行与分布计算领域顶级学术期刊,是中国计算机学会(CCF)推荐的A类期刊。


(通讯员:吴文超)