2026年4月14日下午,华威大学(University of Warwick)计算机科学系何黎刚博士应邀作题为“PFed-NS:基于神经网络分割的自适应个性化联邦学习方案”的学术报告。实验室师生在华中科技大学东五楼学术报告厅参加了本次报告交流。
本次报告围绕联邦学习在Non-IID本地数据下的核心挑战展开:不同客户端数据分布差异会导致本地模型参数偏离,直接聚合易造成性能下降与收敛变慢。针对单一全局模型难以满足差异化需求的问题,何博士重点介绍个性化联邦学习(Personalized Federated Learning,PFL)的两类路线——模型分割与个性化模块,并分析其在灵活性与通信开销方面的取舍。
PFed-NS提出一种自适应网络分割框架:客户端在训练中记录各层神经元输出并构建概率密度函数(Probability Density Function,PDF),服务器基于KL散度统计层间分歧,为各层动态确定分歧阈值,将分歧超过阈值的层划为本地段,其余作为全局段参与聚合;客户端仅上传全局段参数及必要PDF信息,从而在个性化效果与通信成本之间取得平衡。此外,报告提出基于层分歧变化的Batch Normalization策略:本地段BN保持本地,全局段BN是否全局化由训练中平均分歧的下降趋势决定,以缓解聚合后统计量不一致带来的收敛问题。该工作为Non-IID场景下个性化联邦学习的自适应建模与系统实现提供了新的思路。
何黎刚本科和硕士毕业于华中科技大学,博士毕业于英国华威大学计算机系,并在剑桥大学进行博士后研究,现为华威大学计算机系Reader。当前的研究方向包括并行或分布式机器/深度学习、集群、云计算和边缘计算、并行化/分布式数据分析方法,以及并行与分布式系统中的杂项问题,ScholarGPS2024 榜单分布式计算领域全球前0.5%学者。在IEEE TC, TPDS, TKDE, TCSVT, NeurIPS, SC, ICDCS, IPDPS, ICPP, HPCA, EuroSys等国际期刊和会议上发表论文200余篇,并且多次获得最佳论文奖。主持和承担过英国、欧盟及企业界多个研究项目。
(通讯员:吴奕洋)