近日,2022级硕士生陈祎(导师华强胜研究员)的论文“FHE4DMM: A Low-Latency Distributed Matrix Multiplication with Fully Homomorphic Encryption”被 IEEE Transactions on Parallel and Distributed Systems (TPDS) 期刊录用。
全同态加密(Fully Homomorphic Encryption, FHE)允许在密态数据上直接进行计算,是实现隐私计算的最理想方案。目前学术、工业界普遍认为基于FHE的密态计算和等价明文计算间存在5个数量级的性能差距。矩阵乘法作为最底层核心算子被广泛应用于隐私保护的机器学习中,而现有FHE方案在处理大规模矩阵乘法时面临计算和内存开销过大的挑战,导致单机难以高效完成任务。为此,文章提出了FHE4DMM,一种基于全同态加密的低延迟分布式矩阵乘法算法。首先,引入了适配FHE打包技术、安全参数自适应的“块布局”中间表示,并给出了最优块布局生成算法。基于块布局中间表示,设计了联合优化通信和同态计算的分布式算法。最后,通过同态计算任务中的数据复用优化,完全消除冗余的耗时同态数据移动。实验结果表明,FHE4DMM在处理大规模同态矩阵乘法时,相比最优分布式算法获得最高16.62倍加速比,并且所有测试规模下保持线性加速比。此外,FHE4DMM在MNIST和CIFAR-10数据集上的安全外包推理任务中,相比现有最优算法,分别实现了最高3.54倍和4.22倍的加速。
IEEE Transactions on Parallel and Distributed Systems (TPDS) 是并行与分布式计算领域的权威国际学术期刊,也是中国计算机学会CCF A类期刊。每季度出版一期,每期录用论文20篇左右,主要关注并行计算、分布式系统、高性能计算等领域的前沿研究。
(通讯员:陈祎)