近日,实验室2022级博士生叶君尧(导师邹德清教授)的论文“Semantically-Equivalent Transformations-Based Backdoor Attacks against Neural Code Models: Characterization and Mitigation”被 ACM Transactions on Software Engineering and Methodology(TOSEM)期刊录用。
神经代码模型已广泛应用于代码生成、缺陷检测和代码修复等软件开发任务。然而,模型训练所依赖的大规模开源代码可能遭受数据投毒,使模型在遇到特定触发器时产生攻击者预设的恶意行为。现有攻击主要通过插入罕见标识符或冗余代码构造触发器,容易被代码格式化、静态分析和人工审查等手段发现或消除。
为揭示更加隐蔽的安全威胁,论文首次系统提出基于语义等价变换的后门攻击,并设计了风格模式后门触发器框架 SPBT。该框架利用命名方式、变量声明形式和控制流结构等不改变程序功能的代码风格作为触发器,并结合模式流行度与触发器敏感度,从公开代码库中筛选低频且易被模型学习的风格模式。实验结果表明,该攻击能够在保持模型正常任务性能的同时取得较高的攻击成功率,并且在自动化防御和人工审查中均比传统注入式攻击更难被发现,现有代码风格归一化方法只能对其进行部分缓解。
ACM Transactions on Software Engineering and Methodology(TOSEM)是软件工程领域的国际顶级学术期刊,也是中国计算机学会(CCF)推荐的 A 类期刊。该期刊致力于发表软件工程方法论、过程、工具和理论方面具有基础性和创新性的高质量研究成果,在学术界和工业界均享有极高声誉。
(通讯员:叶君尧)