近日，2020级硕士生柏东山（导师金海教授）的论文“Personalized Edge Intelligence via Federated Self-Knowledge Distillation”被 IEEE Transactions on Parallel and Distributed Systems (TPDS) 录用。

联邦学习（Federated Learning）技术被广泛用于实现边缘系统智能计算。通过在多个设备之间协同训练模型，解决传统集中式训练方案的带宽有限、系统异构和数据隐私等问题。然而，现有的联邦学习方法为所有的设备学习一个共享的全局模型，当每个边缘设备都有自己的数据分布或任务时，全局模型在不同设备上的预测效果会变差。该论文研究的是个性化联邦学习（Personalized FL）方案，旨在得到适用于不同边缘设备的个性化模型。论文首次研究分析了个性化知识遗忘的现象，即每一个通信轮次的边缘设备初始化都会导致其历史个性化知识的遗忘。基于这一现象，论文提出了一种新颖的个性化联邦学习方法pFedSD（Personalized Federated Self-knowledge Distillation）。pFedSD允许边缘设备在本地训练的同时，通过自蒸馏（Self Knowledge Distillation）的方式来学习历史个性化模型，从而有效缓解个性化知识的遗忘现象。自蒸馏技术还可以在特征空间提供不同的数据视图，以实现边缘设备上本地模型的隐性集成。在多个公开数据集上的实验表明，pFedSD在准确率上比目前最优的方法最高提升4.46%，收敛速度提升5倍。此外，论文还分析了pFedSD所需的执行时间、通信开销和计算开销等系统性能指标。

IEEE Transactions on Parallel and Distributed Systems（TPDS）期刊是计算机系统领域最权威的国际学术期刊之一，每月出版一期，每期录用论文20篇左右，影响因子为2.6，主要关注并行与分布式架构、并行与分布式算法、并行与分布式计算应用、及并行与分布式系统软件等方面的研究，属于中国计算机学会CCF A类期刊。

（通讯员：柏东山）