近日，实验室2023届硕士毕业生陆建荣（导师胡胜山副研究员）的论文“Depriving the Survival Space of Adversaries Against Poisoned Gradients in Federated Learning” 被 IEEE Transactions on Information Forensics & Security (TIFS) 期刊录用。

联邦学习（Federated Learning，FL）能够在不泄露边缘客户端隐私数据的情况下协作客户端学习得到一个知识丰富的全局模型。然而，联邦学习极其容易受到拜占庭攻击的影响，即攻击者可以通过制造有毒的本地模型来破坏全局模型的性能。针对此问题，论文通过深度分析现有防御方案的局限性和失效模式，提出了一种防御联邦学习拜占庭攻击的策略。基于该策略，进一步提出了一种新的适用于数据高度异构场景下的联邦学习防御方案：HeteroFL。HeteroFL的核心思路是压缩恶意梯度的生成空间并最后矫正他们的方向。具体来说，HeteroFL结合了女巫方向剔除、相似性检测、模型水印等防御性的模块，依次压缩恶意梯度的合法方向空间，随后利用矫正性聚合纠正聚合的模型，使其即使遭攻击也能向全局最优更新方向移动。为了进一步评估其鲁棒性和有效性，论文利用当前最强的攻击方法来实例化一个专门针对HeteroFL的自适应攻击方案，同时评估了自适应攻击有效性和可检测性对HeteroFL的影响。实验结果表明，HeteroFL在击败各种拜占庭攻击上优于现有最先进的防御方案。具体而言，HeteroFL在不同数据集和不同模型上实现了与基线相似的全局模型准确率，而现有防御方案会导致全局模型准确率下降34％到79％。

IEEE Transactions on Information Forensics & Security是信息安全领域最权威的国际学术期刊之一，属于中国计算机学会CCF A类期刊，影响因子为7.23。

（通讯员：万伟）